「大数定理」大数定律与中心极限定理

大数定理

切比雪夫大数定律：用统计方法来估计期望的理论依据。E(X)≈1n∑nk=1xk

贝努利大数定律：事件 A 发生的频率 nAn 依概率收敛于事件 A 的概率 p。明确了频率的稳定性，当 n 很大时，事件发生的频率与概率有较大偏差的可能性很小。p≈nAn

中心极限定理：研究何种条件下独立随机变量之和的极限分布为正态分布的一系列命题的统称。

是数理统计学和误差分析的理论基础，指出了大量随机变量积累分布函数逐点收敛到正态分布的积累分布函数的条件。自然界与生产中，一些现象受到许多相互独立的随机因素的影响，如果每个因素所产生的影响都很微小时，总的影响可以看作是服从正态分布的。

设相互独立的随机变量 X1,X2,...,Xn,... 具有相同的概率分布，且有有限的数学期望和方差： E(Xk)=μ,D(Xk)=μ2≠0(k=1,2,...,n,...)，则随机变量

Yn=∑k=1nXk−nμn√σ

的分布函数 Fn(x) 对于任意实数 x ，都有

limn→∞Fn(x)=∫x−∞12π−−√e−t22dt

由以上定理可知：

当 n 很大时， Yn 近似地服从标准正态分布 N(0,1) 。

令 X¯¯¯=1n∑nk=1Xk，则当 n 很大时， X¯¯¯ 近似服从正态分布 N(μ,σ2n)

由此可见：在独立同分布的情况下，无论 X1,X2,...,Xn 的分布函数为何，它们的平均数 X¯¯¯ 当 n 充分大的时候总是近似地服从正态分布。

德莫佛-拉普拉斯(De Moivre-Laplace)定理：二项分布的极限分布是正态分布。

一般而言，当 n 很大时，二项分布的概率计算是非常麻烦的。若 n 较大，而 p 较小且 np 适中，则还可以利用泊松公式来近似计算二项概率；但若 np 也较大时，用上述公式近似计算出的结果，其精度就稍差。此时可以利用下面的近似公式来计算：

∑k=n1n2(nk)pk(1−p)n−k=P{n1≤x≤n2}≈Φ(n2−npnp(1−p)−−−−−−−−√)−Φ(n1−npnp(1−p)−−−−−−−−√)

若随机变量 X1,X2,...,Xn,... 相互独立，有有限的数学期望和方差，且满足林德贝格(Lindeberg)条件（每个随机变量都均匀小），则当 n 充分大时，这些变量之和的概率分布近似于正态分布。