FFM (Field-aware Factorization Machines)

概述

Juan 等人于 RecSys 2016 提出的 FM 扩展模型，引入"场"（Field）概念，让不同场之间的特征交互使用不同的隐向量，解决了 FM 对所有交叉等权处理的局限。

场的概念：在 CTR 预估中，特征可归入不同的"场"（Field），如用户性别、年龄、广告类别等。FM 中每个特征只有一个隐向量，而 FFM 中每个特征针对不同的交互场使用不同的隐向量。例如特征"男性"与"体育广告"交互时用向量 $\mathbf{v}{男性,广告}$，与"年龄=25"交互时用向量 $\mathbf{v}{男性,人口统计}$。
参数增加换取表达力：FFM 的参数量从 FM 的 $O(kn)$ 增至 $O(kn \cdot F)$（$F$ 为场数量），但获得了更精细的特征交互建模能力。
解决 FM 的等权交叉问题：FM 对所有 $\binom{n}{2}$ 个特征对一视同仁，无法区分有意义的交叉与噪声。FFM 通过场感知机制，让不同语义类别的特征交互使用专门的隐向量，有效减少了无意义交叉带来的噪声。
CTR 预估效果：在 CTR 预估任务上，FFM 相比 FM 取得了显著的精度提升，成为工业界 CTR 预估的主流模型之一。
与 FM 的关系：FFM 是 FM 的直接扩展，继承了 FM 的线性复杂度计算和稀疏数据友好特性，仅在隐向量的使用策略上做了场感知的改进。