多层感知机（MLP）

概述

多层感知机（Multi-Layer Perceptron, MLP）在单层感知机基础上添加一个或多个隐藏层并引入非线性激活函数，能够学习任意非线性决策边界，解决了 XOR 等线性不可分问题。

结构演进：从单层感知机（输入→输出）到多层感知机（输入→隐藏层→输出），每个隐藏层包含多个神经元，层与层之间全连接。关键改进是引入非线性激活函数（sigmoid、tanh、ReLU 等），替代感知机的 sign 函数。
解决 XOR 问题：单层感知机无法用一条直线分开 XOR 的四类样本。MLP 通过隐藏层将输入映射到新的特征空间，在该空间中样本变为线性可分，从而解决了这一经典难题。
训练方法：MLP 的训练依赖反向传播（Backpropagation）算法——通过链式法则将输出误差逆向传播到每个隐藏层神经元，实现梯度下降优化。这解决了困扰 AI 领域十余年的"信用分配问题"。
历史地位：MLP 是结束AI 寒冬的关键技术之一。1980 年代 MLP + 反向传播的组合重新点燃了神经网络研究的热情，为后续深度神经网络的发展奠定了基础。
现代演化：MLP 是现代深度学习架构的基础组件。从 MLP 出发，加上卷积操作得到 CNN，加上注意力机制得到 Transformer，加上循环结构得到 RNN/LSTM。现代大模型（GPT、Claude、BERT）的每个神经元本质上仍是感知机的变体。