BPR (Bayesian Personalized Ranking)
概述
一种基于贝叶斯最大后验估计的 pairwise 学习框架，将隐式反馈推荐问题从评分预测重新定义为个性化偏好排序学习。
关键内容
-
核心思想：不预测用户对物品的绝对分数，而是学习物品之间的相对偏好排序。对于用户交互过的物品 i 和未交互的物品 j，假设 i >_u j，通过大量 pairwise 比较推导全局排名。
-
数学推导：基于贝叶斯 MAP 推导，使用 logistic sigmoid 函数建模偏好似然 p(i >_u j | Θ) = σ(x̂_uij)，施加零均值高斯先验 p(Θ)，得到目标函数 BPR-OPT = Σ ln σ(x̂_uij) - λ‖Θ‖²。
-
与 AUC 的等价性：BPR-OPT 是 AUC 的可微光滑近似（用 ln σ(x) 替代 Heaviside 阶跃函数），优化 BPR 近似等价于直接优化排序质量。
-
LearnBPR 算法：采用 bootstrap 随机采样三元组 (u, i, j) 的 SGD 算法，相比按用户遍历的梯度下降收敛更快、随时可停、梯度估计更均匀。bootstrap 采样（有放回的均匀随机采样）具有显著优势：收敛速度更快（避免了在同一用户上连续更新导致的参数震荡）、随时可停（不需要完成完整的一轮遍历）、更均匀的梯度估计（减少了高频用户对梯度方向的主导影响）。
-
模型无关性：BPR 是通用优化准则，可与任何产生评分预测的模型结合，如 BPR-MF（矩阵分解）和 BPR-kNN（自适应 k 近邻）。
-
局限性：均匀负采样信息量低、仅考虑 pairwise 无法建模全局排序、继承协同过滤的冷启动问题、对交互行为的假设过于粗糙。
-
历史影响：2009年发表后成为隐式反馈推荐的标准范式，BPR Loss 至今仍是 LightGCN、NeuMF、DeepFM 等模型的核心训练目标，6000+ 引用量。BPR 论文在 Rossmann 和 Netflix 数据集上的实验表明，BPR-MF 在不同隐向量维度下均显著优于 SVD-MF 和 WR-MF，验证了优化准则的重要性。
-
与对比学习的关系：BPR 可理解为对比学习的早期实践，当 InfoNCE 损失只使用一个负样本时退化为 BPR Loss。现代图对比学习推荐模型通常组合 L_BPR + λ·L_CL。
来源
- BPR 论文 — Rendle et al. (2009) UAI 2009, BPR 原始论文