邻域聚合
概述
邻域聚合是图神经网络中的核心操作，通过收集节点邻居的信息来更新节点的表示。在推荐系统中，邻域聚合用于传播协同信号，使相似用户或物品的嵌入表示趋于接近。
关键内容
- 基本定义：
- 邻域聚合是指收集节点在图结构中的邻居节点信息，并将其聚合到目标节点的过程
- 数学表达：e_u^(k+1) = AGGREGATE({e_i^(k) | i ∈ N_u})，其中N_u为节点u的邻居集合
-
是图卷积操作的核心组成部分
-
聚合函数类型：
- 求和聚合：Σ邻居嵌入
- 平均聚合：(1/|N_u|)Σ邻居嵌入
- 加权聚合：Σ w_ij * e_j^(k)，其中w_ij为边权重
-
在推荐系统中的应用：
- 用户-物品二部图上的邻域聚合传播协同信号
- 通过聚合交互物品的信息更新用户表示
- 通过聚合交互用户的信息更新物品表示
-
帮助发现潜在的协同模式
-
LightGCN中的邻域聚合：
- 采用对称归一化邻域聚合：e_u^(k+1) = Σ_{i∈N_u} (1/√(|N_u|·|N_i|)) · e_i^(k)
- 去除了传统的特征变换和非线性激活
-
仅保留纯粹的邻域信息聚合操作
-
优化策略：
- 归一化：避免度数大的节点主导聚合结果
- 采样：对大规模图进行邻居采样以减少计算复杂度
- 消息传递：将聚合信息通过消息函数进行预处理
来源
- 15-lightgcn.md — LightGCN论文中详细描述邻域聚合操作