生成函数
概述
生成函数（Generating Function，又称母函数）是将一个数列或概率分布编码为形式幂级数的数学工具：给定数列 {aₙ}，其生成函数为 G(x) = Σ aₙxⁿ。在概率论中，生成函数将概率分布转化为代数对象，使得独立随机变量求和等运算变为幂级数乘法。这一工具由亚伯拉罕·德莫弗在《机会的学说》中引入，后经拉普拉斯和欧拉大力发展，成为概率论和组合数学的核心方法。
关键内容
定义
概率生成函数（Probability Generating Function，PGF）：
对于取非负整数值的随机变量 X，其 PGF 为： $$G_X(z) = E[z^X] = \sum_{k=0}^{\infty} P(X=k) \cdot z^k$$
矩生成函数（Moment Generating Function，MGF）： $$M_X(t) = E[e^{tX}] = \sum_{k=0}^{\infty} \frac{E[X^k]}{k!} t^k$$
特征函数（Characteristic Function）： $$\phi_X(t) = E[e^{itX}]$$（MGF 的复数版本，总是存在的）
De Moivre 的引入（1718年）
De Moivre 在《机会的学说》中将概率分布编码为形式幂级数 Σ pₖxᵏ，利用幂级数的乘法规则来计算独立随机变量之和的分布：
若 X 和 Y 独立，则 G_{X+Y}(z) = G_X(z) · G_Y(z)
这将复杂的卷积计算转化为简单的多项式（或级数）乘法，是一个重要的方法论突破。
核心性质
| 性质 | PGF 表达 | 含义 |
|---|---|---|
| 独立之和 | G_{X+Y} = G_X · G_Y | 加法→乘法 |
| 均值 | G'(1) = E[X] | 导数给出期望 |
| 方差 | G''(1) + G'(1) - G'(1)² = Var(X) | 二阶导数给出方差 |
| 递推关系 | 差分方程→代数方程 | 简化递推 |
在概率论中的应用
- 独立随机变量求和：直接相乘 PGF，无需卷积积分
- 随机游走分析：生成函数方法简化了赌徒破产问题的求解
- 分支过程：Galton-Watson 过程（种群灭绝问题）通过 PGF 的不动点分析
- 保险理论：复合泊松过程的索赔总额分布
发展历史
- De Moivre（1718）：引入概率生成函数，用于计算赌博游戏的概率
- 欧拉（1748）：将生成函数系统化，用于数论和组合数学
- 拉普拉斯（1812）：发展矩生成函数，用于中心极限定理的证明
- 现代概率论：特征函数成为证明弱收敛（CLT 等）的标准工具
意义
生成函数将组合/概率问题转化为分析/代数问题，是概率论从离散组合阶段进入连续分析阶段的重要工具之一。它揭示了一个深刻的思想：将数列"打包"为函数后，函数的性质（导数、乘积、零点等）对应数列的组合/概率性质。
来源
- raw/books/概率论/04_de_moivre_doctrine_of_chances.md