上海海事大學概率論第七章參數(shù)估計.ppt

《上海海事大學概率論第七章參數(shù)估計.ppt》由會員分享，可在線閱讀，更多相關(guān)《上海海事大學概率論第七章參數(shù)估計.ppt（48頁珍藏版）》請在裝配圖網(wǎng)上搜索。

第七章參數(shù)估計,在參數(shù)估計問題中，假定總體分布形式已知，未知的僅僅是一個或幾個參數(shù)。,例如：,估計大學生的平均身高,參數(shù)估計問題的一般提法,（X1,X2,…,Xn）,參數(shù)估計,參數(shù)估計,點估計,區(qū)間估計,例1已知某地區(qū)大學生的身高X~,隨機抽查100個大學生得100個身高數(shù)據(jù)。,1點估計,把樣本值代入T(X1,X2,…Xn)中，得到的一個點估計值。,請注意，被估計的參數(shù)是一個未知常數(shù)，而估計量T(X1,X2,…Xn)是一個隨機變量，是樣本的函數(shù),當樣本取定后，它是個已知的數(shù)值,這個數(shù)常稱為的估計值。,問題是:使用什么樣的統(tǒng)計量去估計？,尋求估計量的方法：,1.矩估計法,2.極大似然法,3.最小二乘法,4.貝葉斯方法,……,,1.矩估計法,矩估計法是英國統(tǒng)計學家K.皮爾遜最早提出的基于一種簡單的“替換”思想建立起來的一種估計方法.,其基本思想是用樣本矩估計總體矩。,記總體k階矩為,樣本k階矩為,記總體k階中心矩為,樣本k階中心矩為,用相應的樣本矩去估計總體矩的估計方法就稱為矩估計法。,理論依據(jù):,大數(shù)定律,一般地,設總體X?f(x;θ),其中,求參數(shù)θ的矩估計的一般步驟為:,1.令,2.解:,其中,3.得,最常用的是：,!!!!p151,,解:,從中解得,得：,由矩法,,,解:,EX:例1,矩法的優(yōu)點是簡單易行,并不需要事先知道總體是什么分布。,缺點是，當總體類型已知時，沒有充分利用分布提供的信息.一般場合下,矩估計量不具有唯一性。,例如:總體X~,A1,B2都是的矩估計。,2.極大似然法,在總體類型已知條件下使用的一種參數(shù)估計方法。,它首先是由德國數(shù)學家Gauss在1821年提出的,Fisher在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì)。,極大似然法的基本思想：,即，已發(fā)生的事件具有最大概率。,極大似然原理,先看一個簡單例子：,在軍訓時，某位同學與一位教官同時射擊，而在靶紙上只留下一個彈孔。,如果要你推測，是誰打中的呢？你會如何想呢?,若X為離散型總體：,已發(fā)生的事件為：,其概率為：,我們的任務是：,若X為連續(xù)型總體：,已發(fā)生的事件為：,其概率為：,我們的任務是：,稱為似然函數(shù),稱滿足的為的極大似然估計值。,稱為的極大似然估計量（MLE）.,例4設總體X~b(1,p),X1,…,Xn是一個樣本，求參數(shù)p的極大似然估計.,解：,,,,,,!,,,,,在總體分布中，把概率函數(shù)(或密度)中自變量看成已知常數(shù),而把參數(shù)θ看作自變量導出似然函數(shù)L(θ);,求極大似然估計（MLE）的一般步驟：,求似然函數(shù)L(θ)的最大值點(常常轉(zhuǎn)化為求lnL(θ)的最大值點)，即θ的MLE;,在最大值點的表達式中,用樣本代入就得參數(shù)θ的極大似然估計量,兩點說明,1、求似然函數(shù)L()的最大值點，通過求解似然方程：,得到的MLE。,若是向量，上述方程必須用似然方程組代替。,2、用上述求導方法求參數(shù)的MLE有時行不通，這時要用極大似然原理來求。,解：,例6設總體其中參數(shù)未知，使用極大似然估計法求的估計量。,,解：,i=1,2,…,n,i=1,2,…,n,(1),(2),由(1)得,?!,故使達到最大的即的MLE，,{,{,極大似然估計的一個性質(zhì):,設的函數(shù)g=g()是上的實值函數(shù),且有唯一反函數(shù)。如果是的極大似然估計，則g()也是g()的極大似然估計。,例8一罐中裝有白球和黑球，有放回地抽取一個容量為n的樣本，其中有k個白球，求罐中黑球與白球之比R的極大似然估計.,解:,顯然X~b(1,p)，由例4,