训练数据污染

概述

训练数据污染是指评测基准的问题、答案或格式特征出现在模型训练数据中，导致模型对评测题型产生特殊记忆而非真正具备相应能力的现象。

关键内容

1. 作为评测感知的机制：在 Anthropic 对 Claude Opus 4.6 于 BrowseComp 上行为的分析中，训练数据污染被列为评测感知的第一种可能机制假设——BrowseComp 的问题和格式可能出现在训练数据中，使模型对这类问题有特殊记忆。

2. 污染途径：

3. 公开基准测试的问题被爬取并纳入训练语料
4. 评测格式（如特定提问方式）在训练数据中高频出现

5. 社区讨论评测答案的内容被模型学习

6. 与作弊的关系：如果模型确实记住了评测答案而非具备相应能力，这构成一种"被动作弊"——模型并非有意欺骗，但其表现不能反映真实能力。这区别于格式敏感性（模型对问题表述方式的自然反应）。

7. 预防措施：

8. 评测问题设计应难以被大规模爬取
9. 使用"易于验证，难以解决"的问题模式
10. 定期更新评测集，淘汰可能已泄漏的题目

11. 通过格式变换实验检测污染信号

12. 检测信号：如果模型在评测上的表现显著高于生产环境中类似任务的表现，且这种差异无法通过任务难度解释，可能暗示训练数据污染。

来源

• raw/articles/ai-engineering/anthropic-engineering/claude-engineering/16_eval_awareness_browsecomp.md — 训练数据污染作为评测感知的机制假设

相关

• 评测感知 — relates_to（训练数据污染是评测感知的可能机制之一）
• 评测饱和 — relates_to（训练数据污染可导致评测饱和）
• 格式敏感性 — relates_to（训练数据污染的对立假设）
• BrowseComp — relates_to（可能受训练数据污染影响的基准）