模型融合
概述
将多个独立模型的预测结果进行集成，以获得优于任何单一模型的综合预测效果的机器学习方法。
关键内容
- Netflix Prize 中的角色：BellKor's Pragmatic Chaos 的最终获胜方案融合了超过 100 个模型，其中矩阵分解方法是绝对主力，同时集成了近邻方法、受限玻尔兹曼机等多种模型。
- 两大核心因素：Netflix Prize 竞赛近三年历程中，推动精度提升的两大核心因素是：单个算法的质量改进和集成融合的思想。在算法层面，矩阵分解方法始终是最大的贡献者。
- 加法式建模哲学：矩阵分解框架本身就体现了"加法式"建模（$\hat{r} = \text{bias} + \text{interaction} + \text{implicit}$），这种哲学与模型融合一脉相承——不同信号源互补而非互斥。
- 与混合推荐系统的关系：模型融合是混合推荐系统的核心技术手段之一，通过组合不同方法的优势来克服单一方法的局限。
来源
- 04-matrix-factorization-for-recsys.md — 深度解读 Matrix Factorization Techniques for Recommender Systems
相关
- Netflix Prize — 模型融合的经典案例
- 矩阵分解 — 融合方案中的主力模型
- 混合推荐系统 — 模型融合的应用场景