美文网首页
推荐系统-特征交互模型

推荐系统-特征交互模型

作者: lzhenboy | 来源:发表于2022-05-17 11:11 被阅读0次

1、DIN

1.1 动机
(1)用户的兴趣是多样的,传统模型用固定长度的用户兴趣表征向量限制了模型的表达能力,很难准确刻画用户兴趣的多样性。
(2)对待预测item,用户不同的历史行为和当前要预测的item的相关性是不一样的,无差别的特征交叉加权的方式是不合理的。
1.2 解决方案
设计基于注意力机制的局部激活单元:利用用户的历史行为数据,自适应地学习与当前item相关的用户兴趣表征向量,极大地提高模型(DIN)的表达能力,也更好地捕捉用户兴趣的多样性。
即:将传统的多值特征做pooling(sum_pooling/avg_pooling)的方式改成基于注意力的特征加权,权重由当前item和用户行为的相关性决定的。
1.3 其他贡献
(1)mini-batch aware正则化。
(2)基于数据自适应的激活函数Dice代替PReLU
(3)模型评估指标GAUC(用户加权AUC)代替AUC。

1.4 模型结构图

DIN.jpg

参考文献

相关文章

  • 推荐系统-特征交互模型

    1、DIN 1.1 动机:(1)用户的兴趣是多样的,传统模型用固定长度的用户兴趣表征向量限制了模型的表达能力,很难...

  • 推荐系统实践-利用用户行为数据(下)

    此文是根据《推荐系统实践》部分整理而来。 PART 1 隐语义模型 隐语义模型核心思想是:通过隐含特征联系用户...

  • CAN:点击率预估中特征交互作用01

    推荐系统算法之读论文系列开启! 点击率预估中特征交互作用CAN 前期知识储备 笛卡尔积 神经网络 特征交叉 ten...

  • UML--交互模型

    交互模型是用来描述系统内部的交互,是跨越了许多对象的整体行为视图;类模型描述系统中的对象及其关系;状态模型描述对象...

  • 深度学习CTR预估(四)——AFM及其tensorflow实现

    1、FM回顾 1.1 引言 FM是一种监督学习,在线性单特征模型中加入了二阶特征交互,但是两两特征交互有个明显的缺...

  • 设计模型-行为结构型-外观模型

    设计模型-行为结构型-外观模型 本质:封装交互,简化调用。 描述:外观模型封装了子系统多个模块内的交互过程,为客户...

  • 推荐系统排序算法--NFM模型

    1、引言 在CTR预估中,为了解决稀疏特征的问题,学者们提出了FM模型来建模特征之间的交互关系。但是FM模型只能表...

  • 推荐系统排序算法--AFM模型

    1、引言 在CTR预估中,为了解决稀疏特征的问题,学者们提出了FM模型来建模特征之间的交互关系。但是FM模型只能表...

  • 推荐系统 - FM模型

    1. 模型演进 LR -> POLY2 -> FM -> FFM 1.1 LR模型 - 融合多种特征的推荐模型 线...

  • 推荐系统系列之隐语义模型

    一、隐语义模型的基本思想 隐语义模型是近年来推荐系统领域较为热门的话题,它主要是根据隐含特征将用户与物品联系起来。...

网友评论

      本文标题:推荐系统-特征交互模型

      本文链接:https://www.haomeiwen.com/subject/dkogurtx.html