《概率論與數理統計》第八章.ppt》由會員分享，可在線閱讀，更多相關《概率論與數理統計》第八章.ppt（57頁珍藏版）》請在裝配圖網上搜索。
1、第八章 參數估計,8.1 估計量的優劣標準 8.2 獲得估計量的方法點估計 8.3 區間估計,研究參數估計，要解決兩個方面的問題： 1.怎樣估計參數，即用什么樣的辦法對參數進行估計； 2.對估計出的參數值用什么標準衡量其優劣程度。,參數估計的概念,定義 設總體X的分布函數F(x; )的形式為已知, 。其中為未知參數, 為參數空間, X1， ， Xn是總體X的一個樣本，若統計量 f(X1， ， Xn)可作為的一個估計,則稱其為的 一個估計量，記為,注：X的分布函數F(x;)也可用分布律或密度函數代替.,若x1， ， xn是樣本的一個觀測值。,在不致混淆的情況下統稱估計量與估計值為估計,8.1 估
2、計量的優劣標準,（一） 一致估計,定義8.1,一致性是對于極限性質而言的，它只在樣本容量較大時才起作用。,（二）無偏估計,例1 從總體中 取一樣本（ X1, ,Xn ），E = , D = 2 , 試證樣本平均數,分別是及2的無偏估計。,證,樣本均值X是的無偏估計。,怎樣證明？,S2是2的無偏估計,如果從總體中隨機取出兩個相互獨立的樣本（ X11 , ,X1n1 ）及（X21 , ,X2n2），則可以證明,分別是總體中和2的無偏估計量。其中，,對總體的某一參數的無偏估計量往往不止一個，而且無偏性僅僅表明所有可能取的值按概率平均等于，可能它取的值大部分與相差很大。為保證的取值能集中與附近，自然要
3、求的方差越小越好。,（三）有效估計,由定義可知，一個無偏估計量取的值是在可能范圍內最密集與未知參數的真值 附近擺動。,定義8.3 設和都是的無偏估計，若樣本容量為 n, 的方差小于的方差，則稱是比有效的估計量。如果在的一切無偏估計量中, 的方差達到最小，則稱為的有效估計量。,實際上，樣本平均數X是總體期望值的有效估計量。,例2 比較總體期望值的兩個無偏估計的有效性。,解：,利用不等式,8.2 獲得估計量的方法點估計,點估計就是以樣本的某一函數值作為 總體中未知參數的估計值的一種估計方法,若x1， ， xn是樣本的一個觀測值。,由于f (x1， ， xn) 是實數域上的一個點，現用它來估計， 故
4、稱這種估計為點估計。 點估計的經典方法是矩估計法與極大似然估計法。,(一）矩估計法（簡稱“矩法”）,關鍵點：1.用樣本矩作為總體同階矩的估計，即,2.約定：若 是未知參數的矩估計，則f()的矩估計為f( ),矩法是求估計量的最古老的方法。 具體的做法是：以樣本矩作為相應的總體矩的估計， 以樣本矩的函數作為相應的總體矩的同一函數的估計。 常用的是用樣本平均數 估計總體期望值 。,例1 某燈泡廠某天生產了一大批燈泡，從中抽取了10個進行壽命實驗，得數據如下（單位：小時）問該天生產的燈泡平均壽命是多少？,矩法比較直觀，求估計量有時也比較直接，但它產生的估計量往往不夠理想。,解 計算出X1147，以此
5、作為總體期望值的估計。,（二）最大似然估計法,1、最大似然思想 有兩個射手，一人的命中率為0.9,另一人的命中率為0.2,現在他們中的一個向目標射擊了一發，結果命中了，估計是誰射擊的？,一般說，事件A發生的概率與參數有關，取值不同，則P(A)也不同。因而應記事件A發生的概率為P(A|).若A發生了，則認為此時的值應是在中使P(A|) 達到最大的那一個。這就是最大似然思想,最大似然法是要選取這樣的，當它作為 的估計值時，使觀察結果出現的可能性最大。,設為連續性隨機變量，它的分布函數是F(x;),概率密度是 其中是未知參數，可以是一個值，也可以是一個向量。由于樣本的獨立性，則樣本,對于連續型的隨機
6、變量就是估計概率密度中的。,對于離散型的隨機變量就是估計概率函數中的參數；,的聯合概率密度是,對每一個取定的樣本值 是常數，L是參數 的函數，稱L為樣本的似然函數（如果 是一個向量，則L 是多元函數）。,設為離散型隨機變量，有概率函數 則似然函數,定義8.4 如果 在 處達到最大值，則稱是 的最大似然估計。,式子右邊的表示函數關系。問題是如何把的最大似然估計求出來，由于 L與L同時達到最大值，故只需求 L的最大值點即可。,與樣本有關，它是樣本的函數，即,如果是一個向量，即,一般情況下， L在最大值點 的一階偏導數等于0，即 是上面方程組的解。要求最大似然估計，首先要解這個似然方程組。,考慮方程
7、組：,1.設總體X為離散型隨機變量，它的分布律為,現有樣本觀察值x1,x2,xn,其中xi取值于xi, i=1,2 問：根據極大似然思想，如何用x1,x2,xn估計q?,例5.設X1， ， Xn為取自參數為的泊松分布總體的樣本，求的極大似然估計,2.設總體X為連續型隨機變量，概率密度(x; ) 現有樣本觀察值x1,x2,，xn, 問：根據極大似然思想，如何用x1,x2,xn估計q?,2、似然函數與極大似然估計,為該總體的似然函數。,定義：若有,使得,則稱 為的極大似然估計.記為,3、求極大似然估計的步驟,(1) 做似然函數,(2) 做對數似然函數,(3) 求導數，列似然方程,若該方程有解，則其
8、解就是的最大似然估計。,(4) 解似然方程,注1：若概率函數中含有多個未知參數，則可解方程組,例6：設X1， ， Xn為取自 N(,2 ) 總體的樣本，求參數 ,2 的極大似然估計。,注2：極大似然估計具有下述性質： 若 是未知參數的極大似然估計， g()是的嚴格單調函數，則g()的矩極大似然估計為g( ),例7：設X1， ， Xn為取自參數為的指數分布 總體的樣本，a0為一給定實數。 求p=PXa的極大似然估計,注3：由似然方程解不出的似然估計時，可由定義通過分析直接推求。事實上 滿足,例8：設X1， ， Xn為取自 U(0,) 總體的樣本， 0未知，求參數 的極大似然估計。,例2 已知,為
9、 的一組樣本觀察值，求的最大似然估計。,解 似然函數,解似然方程,x 就是 的最大似然估計。,例3 某電子管的使用壽命（從開始使用到初次失效為止）服從指數分布（概率密度見例2），今抽取一組樣本，其具體數據如下；問如何估計 ？,解 根據例2的結果，參數用樣本平均數估計,為的估計值。,為的一組樣本觀察值，用最大似然估計法估計 的值。,解,例4 已知服從正態分布,解似然方程組,解似然方程組,EX,P164 2、3、4 7、8、11、15、16、19,8.3 區間估計 P157 一、概念,定義： 設總體X的分布函數F(x；)含有未知參數，對于給定值（0 1),若由樣本X1, , Xn確定的兩個統計量
10、使,則稱隨機區間 為的置信度為1的置信區間,注：F(x;)也可換成概率密度或分布律。,估計未知參數所在的范圍 的方法稱為區間估計,單正態總體參數的區間估計,1、2已知，估計,/2,/2,1-,可取,(1-),1-,的置信度為1的置信區間為,注：的1置信區間不唯一。,都是的1置信區間.但可以證明=1/2時區間長最短.,(1)根據實際問題構造樣本的函數，要求僅含待估參數且分布已知； (2)令該函數落在由分位點確定的區間里的概率為給定的置信度1，要求區間按幾何對稱或概率對稱； (3)解不等式得隨機的置信區間； (4)由觀測值及值查表計算得所求置信區間。,求正態總體參數置信區間的解題步驟：,例2 若燈
11、泡壽命服從正態分布N( ,8),從中抽取了10個進行壽命實驗，得數據如下（單位：小時）試估計平均壽命所在范圍（a=0.05）.,解：已知總體方差2，估計總體期望,對于給定的，查表確定,解：已知總體方差2，估計總體期望,對于給定的0.05，查表確定,根據樣本值計算,的置信度為1- 0.95的置信區間是 （1145.25，1148.75）,例3 已知某煉鐵廠的鐵水中含碳量在正常情況下服從 正態分布，其方差2 = 0.1082 .現在測定了9爐鐵水，其 平均含碳量為4.484.按此資料計算該廠鐵水平均含碳量 的置信區間，并要求有95% 的可靠性。,解：已知總體方差2，估計總體期望,對于給定的置信系數
12、1-0.95，查表確定,根據樣本值計算,的置信系數為1- 0.95的置信區間是（4.413，4.555）,2、總體方差2未知，估計期望,m的1-a置信區間為,1-,即得,/2,/2,例4 假定初生嬰兒（男孩）的體重服從正態分布，隨機抽取12名嬰兒，測其體重為3100，2520，3000，3600，3160，3560，3320，2880，2600，3400，2540。試以0.95的置信系數估計新生嬰兒的平均體重（單位：g）,解: 方差 2未知，估計 的置信區間,對于給定的，查表確定,的置信度為0.95置信區間是,根據樣本值計算：,對于給定的置信系數1-0.95，查表確定,3、單正態總體方差的置信區間,假定m未知，估計2,s2的置信度為1的置信區間為,例5 根據例4測的數據對新生男嬰兒體重的方差進行區間估計（=0.05）.,解: 未知，估計方差 2的置信區間,對于給定的0.05，查表確定,則s2的置信度為1的置信區間為（70752，405620）,4、雙正態總體均值差的置信區間,可解得1- 2 的置信區間,5、雙正態總體方差比的置信區間,假定1，2未知,一、點估計：,1.矩法估計 2.最大似然估計,二、區間估計,1.已知總體方差2 ，估計期望,2.未知總體方差2 ，估計期望,3.未知總體期望，估計方差2,4、雙正態總體均值差的置信區間,5、雙正態總體方差比的置信區間,總結：,小結,
概率論與數理統計》第八章.ppt
