拉尔夫·哈特莱
概述
拉尔夫·维顿·莱昂·哈特莱(Ralph Vinton Lyon Hartley,1888–1970)是美国电子工程师和信息论先驱,1928 年发表论文"Transmission of Information",首次提出信息的对数度量,为 Shannon 信息论奠定基础。
关键内容
生平与背景
- 任职于 Bell Telephone Laboratories(贝尔实验室)
- 1928 年在 Bell System Technical Journal 发表"Transmission of Information"(Vol. 7, No. 3, pp. 535–563)
核心贡献
- 信息与语义分离:首次明确提出信息度量必须与消息的"意义"分离,选择完全客观的标准——信息量取决于发送者在多少个可能的消息中做出了选择
- 对数度量的必然性:论证信息量应该用对数来度量,基于可加性要求:H = log(s₁ × s₂) = log s₁ + log s₂
- Hartley 信息量公式:H = n · log s(n 为符号个数,s 为字母表大小)
认识论突破
Hartley 最深刻的贡献不在于具体公式,而在于认识论层面的决断:信息度量必须与人类主观判断无关。这一思路的正确性直到 Shannon (1948) 才被完全验证。
历史地位
- Nyquist (1924) → Hartley (1928) → Shannon (1948) 构成清晰的思想链
- Shannon 在 1948 年论文开篇即引用 Hartley,明确自己的理论是 Hartley 框架的概率化推广
- 国际单位制中以 10 为底的对数信息量单位被命名为"Hartley"(也称 ban 或 dit),1 Hartley = log₂ 10 ≈ 3.322 bit
局限
Hartley 度量隐含等概率假设,未能处理连续信号的信息度量问题(可选项无穷导致信息量趋于无穷)。这两点留待 Shannon 解决。
来源
- raw/books/信息论/01_hartley_1928_transmission_of_information.md — Hartley (1928): Transmission of Information 深度解析
- Transmission of Information (Hartley 1928)
相关
- 信息论 — 开创的学科
- Hartley信息量 — 提出的信息度量公式
- 奈奎斯特 — 思想先驱(1924)
- 克劳德·香农 — 理论继承者与推广者(1948)
- 贝尔实验室 — 任职机构