1733年,德莫佛—拉普拉斯经过大量的推理证明,在分布的极限定理方面走出了关键性的一步,得出了关于二项分布的极限分布是正态分布的结论。拉普拉斯在原有的基础上改进了他的证明并把二项分布推广为其他任何的分布,为中心极限定理的发展创造了条件。1900年,李雅普诺夫在拉普拉斯的基础上推广了他们的结论,并创立了特征函数法。这类分布极限问题是当时研究的中心问题,卜里耶把它命名“中心极限定理”。到1920年,主要探讨使得中心极限定理普遍成立的最为广泛的条件,之后便有了林德贝尔格条件和费勒条件,正是独立随机变量序列情形下的显著成就。
伯努利便是研究这问题的第一个数学家,1713年他首先提出被后人称之为“大数定律”的极限定理,是概率论与数理统计学的基本定律之一,属于弱大数定律之一,也被称之为伯努利大数定律。简单的说,在一切试验不变的条件下,大量重复试验数次,随机事件的频率近似于它的概率。随着数学的慢慢发展,随机变量序列服从大数定律的证明,大数定律的体系越来越完善,更涌现出了更多广泛的大数定律,例如切比雪夫大数定律,辛钦大数定律,泊松大数定律,马尔科夫大数定律等等常用的大数定律。伯努利大数定律便是切比雪夫大数定律的其中特例。因此,大数定律能得以完善正是这些数学家的不懈努力,不断研究的结果[2]。
3 几种常用的大数定律
大数定律的形式有很多种,现在来介绍几种常用的大数定律
定理1[2] (伯努利大数定律)设 是 重伯努利实验中事件 出现的次数,且 在每次试验中出现的概率为 ,则 ,有
此定理表明:当 很大时, 重伯努利试验中事件 发生的频率几乎等于事件 在每次试验中发生的概率,这个定律以严格的数学形式描述了频率的稳定性,所以,在实际应用中,当试验次数达到很大的时候,便可以用事件发生的频率来代替事件的概率。
定理2[2] (辛钦大数定律)设 是独立同分布的随机变量序列,有限的数学期望 ,对于任意的 ,有
上式也可以表示为 或者 ,并且称 依概率收敛于 。
定理3[3] (切比雪夫大数定律)假设 , , 是一列随机变量,并且两两互不相关,它们的方差有界,寄存在常数 ,使得 那么对于任意的 ,都有
在上面的定理中,因为有用到切比雪夫不等式,但是切比雪夫不等式对方差有要求,其实方差这个条件并不是一定要的。正例如独立分布时的辛钦大数定律。
定理4[3-7] (泊松大数定律)假设 , , 是一组相互独立的随机变量序列,并且有 ,其中 满足: ,则我们称 , , 服从泊松大数定律。来!自~751论-文|网www.751com.cn
从某种意义上来说,泊松大数定律是伯努利大数定律的延伸与推广,伯努利大数定律用严谨的数学公式证明了随机事件在完全相同的条件下重复进行的试验中频率的稳定性现象;而泊松大数定律表明,当独立进行的随机试验的条件发生变化时,频率却依然具有平稳性。随着 的无限增大,在 次独立实验中,事件的频率无限接近于在实验中事件出现的概率[8-12]。
定理5[3] (马尔科夫大数定律)对于某些随机变量序列 , , ,