感知机收敛定理

概述

Rosenblatt 严格证明的核心定理：若训练数据线性可分，感知机学习算法在有限步内必然收敛，更新次数上界为 T ≤ (R/γ)²。

定理表述：若训练数据线性可分，则感知机学习算法在有限步内必然收敛到一个能将所有样本正确分类的权重向量。
收敛步数上界：T ≤ (R/γ)²。其中 R 为样本的最大范数（即样本到原点的最大距离），γ 为最近样本点到决策边界的距离（margin/间隔）。
直觉理解：数据越"容易分"（γ 越大，即两类样本之间的间隔越大），收敛越快。反之，如果两类样本非常接近（γ 很小），则需要更多次更新才能找到正确的分割超平面。
理论意义：这是机器学习史上第一个关于学习算法收敛性的严格数学证明，为"机器可以从经验中学习"这一信念提供了理论保证。
前提条件：定理的关键前提是"数据线性可分"。若数据不可分（如 XOR 问题），定理不适用，算法不会收敛。