2. 极大似然估计
2.1极大似然估计的定义
用L(θ,x_1,x_2,⋯x_n)表示,简记为L(θ),其中参数向量 θ 是由一个未知参数或几个未知参数组成的,x_1,x_2,⋯x_n是来自该总体的样本,设p(x;θ)为总体的概率函数,将样本的联合概率函数看成 θ 的函数,样本的似然函数为L(θ),
L(θ)= L(θ,x_1,x_2,⋯x_n)= p(x_1;θ) p(x_2;θ)⋯ p(x_n;θ)
称 θ ̂是 θ 的最大似然估计,记为MLE(maximum likelihood estimate),
如果某个统计量 θ ̂=θ ̂(x_1,x_2,⋯x_n)满足L(θ ̂)=Max L(θ)则极大似然估计有一个良好的性质:它通常具有渐近正态性.
2.2 截尾线性回归模型参数的极大似然估计及迭代算法
MLE是一种非常有效的参数估计方法,但当分布中有多余参数或数据为截尾或缺失时,其MLE的求取是比较困难的.于是Dempster等人于1977年提出了EM算法,其出发点是把求MLE的过程分为两个步骤,首先求期望,其次求极大值.似然函数为
L(β,σ^2 )=〖(σ^m)〗^(-1) ∏_(i=1)^m▒〖φ(〖(y〗_i-μ_i)/σ)∏_(i=m+1)^n▒〖(∅(〖(b〗_i-μ_i)/σ)-∅(〖(a〗_i-〖 μ〗_i)/σ))〗〗.
一般迭代步骤.先给出参数(β,σ^2 )的极大似然估计的公式.然后求似然函数的 β 的偏导数 截尾线性回归模型中极大似然估计的稳健性分析(3):http://www.751com.cn/shuxue/lunwen_39015.html