极大似然估计法的探究邵雨晴(伊犁师范学院数学与统计学院新疆伊宁835000)摘要:极大似然估计是参数估计的一种常用方法,木文主要探讨了极大似然估计法的原理及其四种方法、步骤和性质,并举例说明了这些方法在解决实际问题中的应用.关键词:极大似然估计;参数估计;似然函数中图分类号:()212文献标识码:A由于极大似然估计法的渐近最优性,它已成为参数估计的一种常用方法,在众多领域得到广泛的应用,例如语音处理、图像处理模型识别等.它是建立在极大似然原理基础上的一个统计方法,并且所得到的极大似然估计具有良好的性质:相合性、存在性、不变性等.用微分法求参数的极大似然估计并不是唯一的方法,以下又以例题的方式给出另外三种求极大似然估计的方法.二、预备知识2.1理论基础2.1.1极大似然估计的背景极大似然估计最早是由高斯(C.F.Gauss)提出的,后来为费希尔(R.A.Fisher)在1912年的文章[7]屮重新提出,并且证明了这个方法的一些性质.极大似然估计这一名称也是费希尔给的.极大似然估计原理的直观想法是:一个随机试验如若有若干个可能的结果A,B,C,...,在一次试验中,结果A出现,则一般认为试验条件对A出现有利,也即A出现的概率很大.先看一个简单的例子,某位同学与一位猎人一起外出打猎,一只野兔从前方窜过.只听一声枪响,野兔应声到下,如果要你推测,这一发命中的子弹是谁打的?你就会想,只发一枪便打中,由于猎人命中的概率一般大于这位同学命中的概率,看来这一枪是猎人射中的.这个例子所作的推断就体现了极大似然法的基本思想.2.1.2极大似然估计法的基本原理随机试验£有《个可能结果々,牟,…,人,现在进行一次试验,结果為发生了,在一次试验中,概率越大越有可能发生,人们自然认为事件在这n个可能结果中出现的概率八A,.)最大.将这种想法用于参数估计,设…,么为取自具有概率函数的:和叫的母体f的一个子样.子样…,么的联合概率密度函数在$取己知观测值七,/=1,20^2时的值••/(»)是沒的函数.我们用(£沒)=(£沒;《¥1,%2,.",',)表示,称为这个子样的似然函数.于是=£(^;XPX2,---,XW)=/(XWU2;60…的(1)下面分别就离散型母体和连续型母体情形做具体讨论.引言(1)离散型母体的情形:如果€是离散型母体,给出观测到、&,…,弋的概率.因此,可以把L(/9;w…,x„)看成为观测到%,,%2,…,x„时出现什么样的<9的可能性的一个测度.所以我们只耍寻找观测值XPA,…,的函数6=,…,x„),以6代沒使八[(伏A,x2,…,xj=supi(沒;XPA:2,…,\)(2)6te0成立.满足(2)式的我^…人广就是最可能产生久么…人的参数权的值.我们称永W..,x,,)为参数沒的极大似然估计值,其相应的统计量我$,么…义)为参数沒的极大似然估计量.(2)连续型总体的情形:如果f是连续型,/(xWeG)表示密度函数.于是子样H••忒落入点(久%2,…,')的邻域内的概率为fj/(%#)△+,同样是沒的函数,既然(ww)再一次抽样中出现,当然可以认为子样,…,么落在(xpx2,…,%,,)的邻域内的概率达到最大.所以我们只要找出使达到最大的权的值我^&,由于Ar,是不依赖于权的增量,我们也只需求i使得/=1达到极大的我便可得到极大似然估计.综上所述知,连续型母体的参数的极大似然估计同样可以用(1)与(2)两式表示.由于lnx是x的单调增函数,使八InL(6^;XPX2<-S^)=supIn(3)典©成立的6也使(2)成立.所以有时我们只耍从(3)中去求6就可以了.定义:若对任意给定的样本值X,,x2,…,%,,,存在,…,\),使£(6)=maxL(0),6则称,…,x„)为沒的最大似然估计值.称相应的统计量我W,…,为沒的最大似然估计量.他们统称为0的最大似然估计.2.1.2多元正态分布极大似然估计考虑p元正态总体X□Nz,(/z,Z),设;^=%,•••〜/(/=1,…,/t)为/?元正态总体X的简单随机样本,此时观测数据阵为:x=A11蠡參參…•••K.)•••…x”p4)是一个随机阵.以不用最大似然估计法求参数//,2的最大似然估计.把随机数据阵X按行拉直后形成的M维长向量Wc(JT)的联合密度函数看成未知参数的函数,并称为样本%(7//=1,…,zi)的似然函数,记为L(//,Z):"1r1L(^X)=JJ(2;r)/,/2|Ei/2exP~2(x(o一A)2_l(\)—A)exp_;[tr((x(/)-//OG)_//))(2^rZ2s...