NeuMF
概述
神经矩阵分解，NCF 框架的最终融合模型，将 GMF 的线性建模能力与 MLP 的非线性建模能力结合，通过独立嵌入空间和后融合策略实现互补。
关键内容
- 融合架构：GMF 和 MLP 使用各自独立的用户/物品嵌入，不共享嵌入空间。这赋予两个子模型更大的灵活性，使它们能在各自的嵌入空间中学习不同的特征表示。
- 后融合策略：两个子模型的倒数第二层输出被拼接，然后通过一个线性层和 sigmoid 输出最终预测：$\hat{y}_{ui} = \sigma(\mathbf{h}^T [\phi^{GMF}; \phi^{MLP}])$，其中 $\phi^{GMF} = \mathbf{p}_u^G \odot \mathbf{q}_i^G$，$\phi^{MLP}$ 是 MLP 最后一个隐藏层的输出。
- 设计哲学：体现"线性模型和非线性模型各有所长，融合比替代更好"的工程直觉。GMF 擅长捕捉潜在因子之间的线性交互，MLP 能发现复杂的非线性模式。通过独立嵌入空间 + 高层融合，避免了两个子模型相互妥协。
- 预训练策略：由于 NeuMF 的目标函数非凸，随机初始化可能导致优化陷入较差的局部最优。先分别独立训练 GMF 和 MLP 至收敛，再用训练好的参数初始化 NeuMF 对应部分，融合层权重初始化为 $[\alpha \mathbf{h}^{GMF}; (1-\alpha) \mathbf{h}^{MLP}]$（$\alpha = 0.5$），最后用 Adam 端到端微调。
- 实验表现：NeuMF 在 MovieLens 1M 和 Pinterest 数据集上均显著优于 eALS 和BPR-MF。仅用 8 个预测因子的 NeuMF 超过 64 个因子的 eALS。性能持续优于其两个子模型 GMF 和 MLP。
- 后续争议：Steffen Rendle等人（2020）指出，精心调优的 MF 可以达到与 NeuMF 相当甚至更好的效果，质疑 NeuMF 的优势是否来自训练策略差异而非模型架构本身。
来源
- 10-ncf.md — Neural Collaborative Filtering 论文详细解读
相关
- Neural Collaborative Filtering — NeuMF 所属的通用框架
- GMF — NeuMF 的线性子模型
- 模型融合 — NeuMF 采用的核心设计策略
- 矩阵分解 — NeuMF 通过 GMF 间接扩展的方法
- BPR — NeuMF 对比的基线方法之一
- Steffen Rendle — 对 NeuMF 提出质疑的研究者