TiSASRec
概述
Time-Interval Aware SASRec,2020 年提出的 SASRec 后续工作,在自注意力中引入实际时间间隔建模,弥补了 SASRec 仅使用位置编码而忽略交互时间语义的不足。
关键内容
-
论文信息:TiSASRec(Time-Interval Aware Self-Attentive Sequential Recommendation),2020 年发表。
-
核心改进:SASRec 使用位置编码表示物品在序列中的相对顺序,但没有考虑交互之间的实际时间间隔。TiSASRec 在自注意力计算中引入了时间间隔信息——用户一小时内连续浏览的物品和间隔数月的两次购买具有完全不同的语义关联。
-
方法:在 SASRec 的嵌入层中增加时间间隔嵌入(Time-Interval Embedding),与物品嵌入和位置嵌入一起输入自注意力层。注意力权重同时考虑内容相关性和时间接近度。
-
核心创新:
- 时间间隔嵌入:为每个交互的时间间隔分配嵌入向量,编码时间距离信息
- 时间感知位置编码:结合相对位置信息和时间间隔信息,构建更丰富的序列表示
- 时间衰减机制:根据时间间隔长短对注意力权重进行衰减,长时间间隔的物品关注度更低
- 双重位置编码:不仅考虑序列中的相对位置,还考虑交互之间的实际时间戳
- 时间间隔编码:将连续交互间的时间间隔离散化,映射为可学习的时间嵌入
-
解决的问题:SASRec 的局限性之一——缺少时间间隔建模。在现实场景中,时间间隔是用户意图的重要信号:短时间内的密集交互通常反映明确的购买意图,而长时间跨度的交互可能反映周期性需求。SASRec使用位置编码来表示物品在序列中的相对顺序,但没有考虑交互之间的实际时间间隔,而TiSASRec在SASRec的基础上加入了时间间隔感知能力。
-
技术实现:
- 双重位置编码:不仅考虑序列中的相对位置,还考虑交互之间的实际时间戳
- 时间间隔编码:将连续交互间的时间间隔离散化,映射为可学习的时间嵌入
-
与SASRec的关系:TiSASRec直接扩展了SASRec的架构,在其基础上加入了时间间隔感知能力,保持了原有的自注意力机制和因果掩码设计。
-
实验效果:在多个带有时间戳信息的数据集上验证了有效性,特别是在用户行为时间分布不均匀的场景下表现优异。