美文网首页推荐系统研究专区
基于图的推荐算法(7):LightGCN: Simplifyin

基于图的推荐算法(7):LightGCN: Simplifyin

作者: 阿瑟_TJRS | 来源:发表于2020-12-09 19:20 被阅读0次

前言

  • SIGIR2020 针对基于GCN进行CF的算法研究,对GCN提出组件简化算法,是对NGCF算法的针对性改进(NGCF见上一篇博客)
  • 来自何向南团队

摘要

GCN在推荐中的高效性未被深入研究,缺少对GCN原理的对比分析。

作者通过实验发现GCN中的特征转换和非线性激活对于CF的效果作用不大,甚至可能影响推荐效果。

因此,这篇文章主要研究简化GCN,仅保留其聚合近邻节点操作,并使用线性传播的方式计算得到最后的用户/物品嵌入

NGCF模型

基于图的推荐算法(6): Neural Graph Collaborative Filtering (jianshu.com)

模型计算形式如下:

在半监督节点分类中,节点具有丰富的节点语义信息,所以利用非线性转换对特征学习是有效的。
然而,CF中只用了ID特征,这类特征不具有连续语义,所以作者认为利用多层非线性转换对于学习更好的特征没有帮助,甚至有负面作用。


作者同时进行了相关的消融实验,出去特征转换W,以及非线性激活函数sigmoid,实验结果表明:

非线性转换对NGCF有严重的负面作用。

在以上结论的基础上,作者对GCN的使用进行了简化,提出了完整的LightGCN.

模型方法

前面已经说明:NGCF是一个规模大且冗余的GCN模型。所以研究的目标就是通过简化GCN、提出一个轻量且高效的模型。

轻量模型具有很多优势:具备一定的可解释性;训练和存储简单;模型容易分析。

1. Light Graph Convolution

卷积方面,去除非线性转换,同时略去自联结的情况,仅聚合近邻节点来表示当前节点。 至于self-connection的情况,通过后面的多层结合实现。

2. Layer Combination & Model Prediction

堆叠K层操作后,将各层输出加权求和得到最后的嵌入,实验中使用求平均得到最优的效果;多层相加主要是因为:

  1. 随着层数增加,嵌入会出现over-smoonthed过度平滑的情况,需要将各层聚合起来;
  2. 不同层会获取不同级别/阶的语义/关联信息
  3. 不同层加和实现了self-connection和卷积的利用,是一个重要的trick

3. 矩阵形式表示

4.模型训练

BPR Loss

实验效果

与NGCF的直接对比 与其他SOTA对比

小结

本文对基于GCN进行CF的模型进行了有效的分析,从模型简化的角度,从理论和实验的角度分析了GCN用于CF时的冗余设计,得到了轻量化的GCN模型;整体研究思路清晰,论文分析到位,是很不错的工作。

END

本人简书所有文章均为原创,欢迎转载,请注明文章出处 。百度和各类采集站皆不可信,搜索请谨慎鉴别。技术类文章一般都有时效性,本人习惯不定期对自己的博文进行修正和更新,因此请访问本人简书主页查看最新信息https://www.jianshu.com/u/40d14973d97c

相关文章

  • 基于图的推荐算法(7):LightGCN: Simplifyin

    前言 SIGIR2020 针对基于GCN进行CF的算法研究,对GCN提出组件简化算法,是对NGCF算法的针对性改进...

  • 基于图的推荐算法(3):Collaborative Simila

    前言 WWW2019,基于图嵌入思想的推荐算法研究 相关研究参见:基于图的推荐算法(1): Query-based...

  • 基于图的推荐算法(2): HOP-Rec: High-Order

    前言 RecSys2018: 融合图结构、并结合MF思想的推荐算法 相关研究参见:基于图的推荐算法(1): Que...

  • 协同过滤算法

    协同过滤算法:基于用户行为数据设计的推荐算法,分为:基于邻域的方法、隐语义模型(LFM)、基于图的随机游走算法 1...

  • 基于图的推荐算法(5): Spectral Collaborat

    前言 Recsys2018 基于图神经网络对CF进行改进的算法研究 相关研究参见基于图的推荐算法(4): Grap...

  • 基于图的推荐算法(6): Neural Graph Collab

    前言 SIGIR2019 基于图神经网络对CF进行改进的算法研究(何向南团队) 相关研究参见基于图的推荐算法(4)...

  • 个性化推荐浅析

    个性化推荐算法: 推荐算法分为三类:基于内容的推荐算法,协同过滤推荐算法和混合推荐算法 基于内容的推荐算法,将用户...

  • 基于图的推荐算法

    上一次讲了《相似度计算方法:余弦相似度》中,提到了推荐系统中的基于用户的协同过滤算法,由于用户的行为数据,很适合用...

  • 2020-12-30

    智能推荐算法演变及学习笔记(二):基于图模型的智能推荐(含知识图谱/图神经网络)[https://www.cnbl...

  • 商品推荐算法有哪些

    基于内容的推荐 协同过滤 基于知识的推荐 推荐补足算法 多算法融合 【购物网站的商品推荐算法有哪些?】陈运文:… ...

网友评论

    本文标题:基于图的推荐算法(7):LightGCN: Simplifyin

    本文链接:https://www.haomeiwen.com/subject/zfxkgktx.html