Shannon-Hartley公式

概述

Shannon-Hartley 公式是 Shannon (1949) 给出的连续信道容量公式：C = W log₂(1 + S/N)，精确量化了带宽 W、信噪比 S/N 与可靠传输速率上限之间的关系，是通信工程的"万有引力公式"。

$$C = W \log_2\left(1 + \frac{S}{N}\right) \quad \text{(bit/s)}$$

其中： - C：信道容量（每秒最多可靠传输的比特数） - W：信道带宽（Hz） - S：信号平均功率（瓦特） - N：噪声平均功率（瓦特） - S/N：信噪比（无量纲）

$$C = W \log_2\left(1 + \frac{S}{N_0 W}\right)$$

信号分辨率：信噪比 S/N 决定了可区分的信号电平数，约 √(1 + S/N) 个。每秒 2W 个独立样本，每个样本 log₂ √(1 + S/N) bit，总计 W · log₂(1 + S/N)
球填充：高维空间中，大球（信号+噪声）体积除以小球（噪声）体积给出最大消息数。体积比为 ((S+N)/N)^(n/2)，取对数得到信息量
自由度与精度：信息量 = 自由度数 × 每个自由度的精度。自由度数 = 2W（每秒独立样本数），精度 = (1/2) · log₂(1 + S/N)

增加带宽（W → ∞，S 和 N₀ 固定）： $$C \to \frac{S}{N_0 \ln 2} \approx 1.44 \frac{S}{N_0}$$

即使带宽无限大，信道容量也有上界！因为增加带宽也增加了总噪声功率（N = N₀W）。

增加信噪比（S/N → ∞，W 固定）： $$C \approx W \log_2\frac{S}{N}$$

信噪比增长可以无限提高容量，但只是对数增长——每增加 3 dB 的信噪比只多 1 bit/s/Hz。

无限带宽极限下，每 bit 信息需要的最低能量： $$\frac{E_b}{N_0} \bigg|_{\min} = \ln 2 \approx -1.59 \text{ dB}$$

这是物理上可靠通信所需的最低能量。Turbo 码和 LDPC 码在 2000 年代达到了距 Shannon 极限 0.1 dB 以内的性能。

Hartley (1928) 给出了无噪声情况下的信息量 H = n · log s。Shannon-Hartley 公式将其推广到有噪声的连续信道，将噪声的影响精确量化为 S/N 项。

raw/books/信息论/03_shannon_1949_communication_in_presence_of_noise.md — Shannon (1949): Communication in the Presence of Noise 深度解析