所罗门·库尔巴克
概述
所罗门·库尔巴克（Solomon Kullback，1907–1994）是美国数学家和统计学家，二战期间从事密码分析工作，1951 年与 Richard Leibler 共同提出 KL 散度，桥接了 Shannon 信息论与 Fisher 统计推断理论。
关键内容
密码分析背景
Kullback 是美国陆军信号情报局的资深密码分析师，参与了破解日本紫码（Purple cipher）的工作。战后在美国国防部（后来的 NSA）工作。密码分析需要从截获的密文中推断密钥和明文——本质上是一个统计推断问题——这让他自然地关注信息论与统计学的交叉。
核心贡献
与 Richard Leibler 共同提出 KL 散度（Kullback-Leibler divergence），发表于 1951 年"On Information and Sufficiency"。这是第一个成功桥接 Shannon 信息论和 Fisher 统计推断理论的数学工具。
1959 年出版专著 Information Theory and Statistics（Wiley），系统阐述了信息论与统计学的统一框架。
来源
- raw/books/信息论/05_kullback_leibler_1951_information_and_sufficiency.md — Kullback & Leibler (1951) 深度解析
- On Information and Sufficiency (Kullback & Leibler 1951)