AFM

概述

引入注意力机制的因子分解机变体，为不同特征交互赋予不同权重，解决 FM 暴力枚举所有特征对缺乏选择性的问题。

关键内容

1. 注意力加权特征交互：FM 组件会计算所有特征对之间的交互，没有选择性地关注更重要的交互。AFM 通过引入注意力机制来为不同的特征交互赋予不同的权重。
2. 解决 DeepFM 局限：DeepFM 的 FM 部分暴力枚举所有特征对，在特征数量很大时大量不相关的特征对交互实际上是噪声。AFM 的注意力机制可以自动筛选重要交互。
3. 与 DeepFM 的关系：AFM 是对 FM 本身的改进，可以视为 DeepFM FM 组件的潜在替换方案。将 AFM 替代 FM 集成到 DeepFM 架构中是一个自然的研究方向。

来源

• Attentional Factorization Machines: Learning the Weight of Feature Interactions via Attention Networks (IJCAI 2017)
• raw/books/推荐系统/09-deepfm.md

相关

• Factorization Machines — 改进的基础模型
• DeepFM — 可替代其 FM 组件
• 特征交叉 — 核心建模目标
• CTR 预估 — 应用场景