欠拟合

概述

欠拟合是指模型过于简单，无法捕捉数据中的基本模式和结构，导致在训练数据和测试数据上都表现不佳的现象，即模型的偏差过高。

关键内容

1. 现象定义：欠拟合发生时，模型在训练数据上的拟合效果就很差（高偏差），同样在测试数据上的表现也很差。模型未能学习到数据中的真实关系和结构。

2. 产生原因：模型过于简单（参数过少）、特征选择不当、模型复杂度不足以描述数据的内在规律、训练时间不足等。

3. 识别方法：训练误差和测试误差都很高、模型在训练集上的准确率很低、通过可视化发现模型无法描述数据趋势等。

4. 解决方法：增加模型复杂度、添加更多相关特征、减少正则化强度、延长训练时间、使用更强大的模型等。

5. 与过拟合的对比：欠拟合和过拟合是模型复杂度与数据适配问题的两个极端。AIC等信息准则帮助在欠拟合（模型太简单）和过拟合（模型太复杂）之间找到平衡点，实现最佳的预测性能。

来源

• 07-akaike-1974-aic — 用一把"奥卡姆剃刀"丈量统计模型
• 统计学基础 — 统计学习理论

相关

• 模型选择 — addressed_by
• 过拟合 — compares_to
• 偏差-方差权衡 — part_of
• AIC（赤池信息准则） — addressed_by
• 模型复杂度 — result_of