信道容量

概述

信息论中的重要概念，指在给定噪声干扰的通信信道中，能够可靠传输信息的最大速率。

关键内容

定义

信道容量定义为 $C = \max_{p(x)} I(X; Y)$，其中$I(X; Y)$是输入X和输出Y之间的互信息，最大化在所有可能的输入分布$p(x)$上进行。

香农-哈特利公式

对于加性白高斯噪声(AWGN)信道，信道容量为 $C = B \log_2\left(1 + \frac{S}{N}\right)$，其中B是信道带宽，S/N是信噪比。

物理意义

信道容量给出了通信的终极物理极限，是由信道物理特性唯一决定的量，独立于任何特定的编码方案。

有噪信道编码定理

只要传输速率低于信道容量，就存在编码方案使得错误概率可以任意接近零。

工程应用

为通信工程师提供了理论基准，各种现代通信系统(如5G/6G)的性能都以接近香农极限的程度来衡量。

来源

• A Mathematical Theory of Communication — original theory
• Claude Shannon — developed_by
• raw/books/计算机科学/02-shannon-mathematical-theory-of-communication.md — detailed analysis
• 互信息 — mathematical basis

相关

• 信息论 — belongs_to_field
• Claude Shannon — theorized_by
• 熵 — related_concept
• 互信息 — mathematical_basis
• 有噪信道编码定理 — theoretical_implication