中心极限定理
概述
中心极限定理(Central Limit Theorem,CLT)是概率论中最深刻、应用最广泛的定理之一:大量独立同分布的随机变量之和(或均值),无论原始分布形状如何,其分布都趋向正态分布。这解释了为何正态分布在自然界和社会现象中无处不在。最早的版本由亚伯拉罕·德莫弗于1733年在二项分布特殊情形中推导,后经皮埃尔-西蒙·拉普拉斯推广,再经切比雪夫、Lindeberg、Feller 等人逐步一般化。
关键内容
定理陈述(现代形式)
设 X₁, X₂, ..., Xₙ 为独立同分布随机变量,均值为 μ,方差为 σ²(有限)。令:
$$Z_n = \frac{\sum_{i=1}^n X_i - n\mu}{\sigma\sqrt{n}}$$
则当 n → ∞ 时,Zₙ 的分布趋近标准正态分布 N(0,1):
$$P(a \le Z_n \le b) \to \frac{1}{\sqrt{2\pi}} \int_a^b e^{-x^2/2} dx$$
关键:不要求 Xᵢ 本身服从正态分布,只需独立同分布且有有限方差。
历史发展:从特殊到一般
| 年份 | 人物 | 版本 | 条件 | ||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| 1733 | 亚伯拉罕·德莫弗 | De Moivre-Laplace 定理(雏形) | 仅限 p=1/2 的二项分布 | ||||||||
| 1812 | 皮埃尔-西蒙·拉普拉斯 | De Moivre-Laplace 定理 | 一般 p 的二项分布 | ||||||||
| 1867 | 帕夫努季·利沃维奇·切比雪夫</td> <td>切比雪夫 | 矩方法 | |||||||||
| 1901 | 李雅普诺夫</td> <td>Lyapunov | 伯努利试验(成功概率 p)中成功次数,则:
$$P!\left(a \le \frac{S_n - np}{\sqrt{np(1-p)}} \le b\right) \to \frac{1}{\sqrt{2\pi}} \int_a^b e^{-x^2/2} dx$$ De Moivre 只证明了 p = 1/2 的情形;拉普拉斯推广到任意 p。 直觉理解:为何正态分布普遍存在投掷 n 个骰子,求总点数的分布。每个骰子的点数分布是均匀分布(1到6各1/6),但当 n 增大时,总点数的分布趋近钟形曲线。 这是 CLT 的核心直觉:任何量,只要是由大量独立的微小随机扰动叠加而成,其分布就趋近正态。身高(基因×环境×营养×……)、测量误差(仪器误差×操作误差×……)都满足这个条件。 与大数定律的关系大数定律和 CLT 回答了两个层次的问题:
CLT 是 LLN 的"精细化"——不仅知道极限,还知道收敛速度和误差分布。 应用举例统计推断:样本均值 X̄ ~ N(μ, σ²/n)(近似),因此可以构造置信区间: $$P!\left(\mu \in \left[\bar{X} - z_{\alpha/2}\frac{\sigma}{\sqrt{n}},\ \bar{X} + z_{\alpha/2}\frac{\sigma}{\sqrt{n}}\right]\right) \approx 1-\alpha$$ 民意调查误差:n=1000 人样本,误差棒 ≈ ±1/√1000 ≈ ±3.2%(正是常见的"±3%误差"的来源) 意义
来源
相关 |