正态分布
概述
正态分布(Normal Distribution),又称高斯分布或钟形曲线,是概率论和统计学中最重要的概率分布。其密度函数呈对称的钟形,均值处最高,向两侧单调递减。由亚伯拉罕·德莫弗于1733年首次推导,用于近似计算二项分布;后经皮埃尔-西蒙·拉普拉斯和卡尔·弗里德里希·高斯系统化,成为统计学的核心工具。中心极限定理解释了为何正态分布在自然界和社会现象中普遍出现。
关键内容
数学定义
参数为均值 μ 和标准差 σ 的正态分布,其概率密度函数为:
$$f(x; \mu, \sigma) = \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$$
标准正态分布(μ = 0,σ = 1):
$$\phi(x) = \frac{1}{\sqrt{2\pi}} e^{-x^2/2}$$
记为 X ~ N(μ, σ²)。
68-95-99.7 法则
正态分布有一个非常实用的经验规则:
| 区间 | 覆盖概率 | 含义 |
|---|---|---|
| [μ - σ, μ + σ] | 约 68.3% | 1个标准差以内 |
| [μ - 2σ, μ + 2σ] | 约 95.4% | 2个标准差以内 |
| [μ - 3σ, μ + 3σ] | 约 99.7% | 3个标准差以内 |
历史发现:不是高斯首先发现的
正态分布通常被称为"高斯分布",但历史事实是:
| 年份 | 人物 | 贡献 |
|---|---|---|
| 1733 | 亚伯拉罕·德莫弗 | 首次推导正态密度函数,作为二项分布的近似 |
| 1809 | 卡尔·弗里德里希·高斯 | 将正态分布用于误差理论和天文观测,系统化处理 |
| 1812 | 皮埃尔-西蒙·拉普拉斯 | 推广 De Moivre 的结果,建立中心极限定理 |
Stigler 在其著名的"Stigler 命名定律"(没有科学发现是以其真正发现者命名的)中,特别以正态分布被称为"高斯分布"为例。
De Moivre 的推导思路
De Moivre 从 Stirling 近似 n! ≈ √(2πn)·(n/e)ⁿ 出发,估计 C(n, k) 在 k 接近 n/2 时的值,通过代换和简化,得到正态密度函数。他最初只处理了 p = 1/2(对称二项分布)的情形。
为什么正态分布无处不在
正态分布的普遍性由中心极限定理解释:任何由大量微小独立随机因素叠加而成的量,其分布趋近正态分布,与各个因素本身的分布无关(只要满足有限方差等基本条件)。
现实中的例子: - 人类身高(受遗传、营养等众多因素影响) - 测量误差(由大量微小随机误差叠加) - 考试成绩(受大量独立知识点掌握程度影响) - 金融日收益率(近似正态,但尾部更厚)
主要性质
- 对称性:关于均值对称,均值 = 中位数 = 众数
- 线性变换封闭:若 X ~ N(μ, σ²),则 aX + b ~ N(aμ+b, a²σ²)
- 独立之和:若 X ~ N(μ₁, σ₁²),Y ~ N(μ₂, σ₂²) 独立,则 X+Y ~ N(μ₁+μ₂, σ₁²+σ₂²)
- 标准化:(X - μ)/σ ~ N(0, 1)
在统计学中的核心地位
正态分布是现代统计学的基础: - t 检验、F 检验、ANOVA 均基于正态假设 - 置信区间依赖正态近似 - 线性回归的残差假设正态分布 - 贝叶斯统计中常用正态先验
意义
历史意义
正态分布的发现是概率论从组合阶段进入分析阶段的转折点。De Moivre 将分析工具(Stirling 近似、积分近似)引入概率计算,使得 n 很大时的精确计算成为可能,解决了伯努利大数定律中数值估计过于粗糙的问题。
深层意义:离散→连续
二项分布(离散)在大尺度下趋近正态分布(连续),体现了一个深刻主题:离散结构在大尺度下表现出连续特征。这一思想在随机过程(随机游走趋向布朗运动)、统计力学等领域反复出现。
来源
- raw/books/概率论/04_de_moivre_doctrine_of_chances.md