序列 的当期值是自身最近p阶滞后项和新息项的线性组合,其中 包括了序列在t期无法用过去值来解释的所有新信息.
1.2 参数估计的方法
参数估计有两种方法:点估计与区间估计.有数学王子之称的高斯于十八世纪末期发现了参数估计的方法.矩估计法、最大似然估计法和最小二乘法是点估计中最主要的三种方法.其中矩法是于1900年K.皮尔逊提出,它由于统计思想十分简单,而使用场合广泛,它的实质是用经验函数去替换总体分布,它的理论基础是格里文科定理.高斯于1821年针对正态分布提出了最大似然估计,1922年费希尔重新提出了这种想法并证明了它的一些性质,最大似然法也因此迅速发展并广泛应用.最小二乘法最早称为回归分析法是英国生物学家、统计学家道尔顿所创.而高斯在1794年创造了最小二乘原理.区间理论是1934年由统计学家J.奈曼所创立的一种严格的区间估计的方法,后来费希尔也研究出了区间估计的方法.
2 预备知识
2.1 时间序列
定义2.1按时间序列排列起来的随机序列 称为时间序列,简记为 ,或者 .
类似于样本与样本观测值的关系,我们可用 表示时间上述序列的n个有序观测值,称其为序列长度为n的观测值序列.
定义2.2如果时间序列 满足
（1）    对任何 ;
（2）    对于任何 ;
（3）    对于任何 ;
我们就称是 平稳时间序列.  为自协方差函数.
易得自相关函数为：
 
由于自协方差结构只与时间间隔有关,与绝对时间无关,故
                   (4)
2.2 P阶自回归过程AR（p）模型
考虑p阶自回归模型：
 
 为独立时间序列,且 与 相互独立,
具有AR特征多项式：
和相应的AR特征方程： 
当且仅当AR特征方程每一个根的绝对值都都大于1,特征方程存在平稳解.多项式根和系数之间的其他关系也可以用来证明以下两个不等式是满足平稳性的必要条件,也即,为了保证特征方程根的模大于1,以下两个不等式是必要但不充分条件:
序列平稳且均值为零则得到递推关系： AR模型参数估计几种方法的探究(2):http://www.751com.cn/shuxue/lunwen_32059.html