通信理论

概述

研究信息传输的理论基础，包括信息的量化、传输、存储和处理，由Shannon在1948年的开创性论文中建立数学基础。

关键内容

1. 经典通信系统模型：包含信源、编码器、信道、解码器和信宿五个基本组件，为所有现代通信系统提供了统一框架。

2. 信息的语义中立性：Shannon将信息从语义和意义中分离出来，将其定义为纯粹的数学对象，使理论具有最大普适性。

3. 核心问题：通信的根本问题是"在一端精确地或近似地重现另一端所选择的消息"，关注的是消息的形式而非意义。

4. 信息与概率：信息量与消息的"意外程度"成正比，概率越小的事件携带的信息量越大。

5. 理论分支：包括信源编码理论、信道编码理论、网络信息论等，为数字通信、数据压缩、密码学等领域提供基础。

来源

• A Mathematical Theory of Communication — foundational work
• [[]] —

相关

• 信息论 — closely_related_field
• Claude Shannon — founded_by
• 信源编码定理 — fundamental_theorem
• 有噪信道编码定理 — fundamental_theorem
• 信息熵 — fundamental_concept
• 信道容量 — fundamental_concept