雷·所罗门诺夫
概述
雷·J·所罗门诺夫（Ray J. Solomonoff，1926–2009）是美国数学家和计算机科学家，算法信息论的三大独立发源之一，1964 年发表"A Formal Theory of Inductive Inference"，将 Occam 剃刀形式化为精确的数学理论。
关键内容
学术背景
- 没有在任何大学获得终身教职，大部分职业生涯在自己创立的小型研究公司 Zator Company 工作
- 参加了 1956 年达特茅斯会议（人工智能诞生的会议），与 McCarthy、Minsky、Shannon 等人交流
- 核心关注点：如何建立一个理想的、普适的预测/学习理论
核心贡献
- Solomonoff 先验（1960/1964）：定义了通用的算法概率分布 M(x) = Σ 2^{-|p|}，将 Occam 剃刀精确数学化
- Solomonoff 归纳推理：证明了对任何可计算数据源，预测误差总和有界，且上界仅取决于真实规律的 Kolmogorov 复杂性
- 算法信息论先驱：1960 年的技术报告比 Kolmogorov 1965 年的论文早 5 年，是第一个将"程序长度"作为信息/复杂性度量的人
被低估的先驱
Solomonoff 的贡献长期被学术界低估：不在知名大学任职、Kolmogorov 名声远超他、算法概率的不可计算性缺乏直接应用。近年来随着 AI 安全和 AGI 研究兴起，得到了重新评价。
来源
- raw/books/信息论/08_solomonoff_1964_formal_theory_of_inductive_inference.md — Solomonoff (1964) 深度解析
- A Formal Theory of Inductive Inference (Solomonoff 1964)
相关
- 克劳德·香农 — 同时代的信息论先驱
- Solomonoff先验 — 提出的核心概念
- 算法信息论 — 开创的学科
- 柯尔莫哥洛夫复杂性 — 独立发现，密切相关