SVD++

概述

Yehuda Koren 于 KDD 2008 提出的矩阵分解扩展模型，在 MF 基础上引入用户隐式反馈历史，在 Netflix Prize 竞赛中表现卓越，后被证明可被 Factorization Machines 框架等价表示。

关键内容

1. 核心思想：在传统矩阵分解（用户隐向量 × 物品隐向量）基础上，额外引入用户的隐式反馈信息——用户曾经评过哪些物品、浏览过哪些物品等，将这些行为编码为归一化的物品指示变量，与显式评分共同建模。
2. 模型结构：SVD++ 的预测公式包含四部分：全局偏置、用户偏置、物品偏置、用户-物品隐向量内积，以及隐式反馈项（用户历史行为物品的隐向量加权求和）。这使得模型不仅利用显式评分，还利用了用户的行为信号。
3. Netflix Prize 表现：SVD++ 是 BellKor 团队赢得 Netflix Prize（2009年，100万美元大奖）的核心技术之一，在 Netflix 数据集上取得了显著的精度提升。
4. 与 FM 的等价关系：在 Factorization Machines 框架下，只需在特征向量中额外拼接一组归一化的物品指示变量（表示用户历史评过的物品），FM 的交互项就会自动包含 SVD++ 中的隐式反馈交互，无需重新设计模型方程和优化算法。
5. 后续影响：SVD++ 的隐式反馈融合思想被后续大量推荐系统工作继承，包括 timeSVD++（加入时间动态建模）等变体。FM 的统一框架进一步证明了这种"特征编码决定建模能力"而非"模型结构决定一切"的范式。

来源

• Factorization Meets the Neighborhood (Koren 2008)
• Factorization Machines (Rendle 2010)
• 04-matrix-factorization-for-recsys.md — 深度解读 Matrix Factorization Techniques for Recommender Systems

相关

• Yehuda Koren — 第一作者
• 矩阵分解 — 基础模型
• 隐式反馈 — 核心创新点
• Factorization Machines — 可等价表示 SVD++ 的统一框架
• Netflix Prize — 应用场景