从矩阵分解到GNN:社会化推荐的演化

2020 年 3 月 31 日 图与推荐

写在前面:社会化推荐(social recommendation)的简介和几篇相关论文,包含经典模型SoRec(CIKM, 2008),SocialMF(SocialMF, 2010)和TrustSVD(AAAI, 2015)的简述,及使用图神经网络解决社会化推荐问题的GraphRec(WWW,2019)和DiffNet(SIGIR,2019)。

一、问题简述

百科定义:社会化推荐通过社交网络、社交搜索、社交媒体、社会书签、社会新闻、社会知识共享、社交游戏、博客、维基、推荐系统、问答社区、查询日志、标签等获取社交行为数据,利用计算机技术,例如机器学习、数据挖掘、自然语言处理等进行研究,挖掘出集体智慧。这种服务方式不同于传统的信息推荐服务,它将社会网络、社交媒体视为信息推荐的主要平台,使用户的隐性知识在社会化推荐过程中与其他用户进行交互,形成交流。

与传统协同过滤推荐比较:传统协同过滤利用user-item交互历史表示user和item,由于用户行为的稀疏性,限制了模型的效果。社会化推荐利用user的周围邻居的偏好减轻用户稀疏性,从而得到更好嵌入表示模型。

解释性:一个人的偏好总是与和他存在社会关系的人相似或者受到后者的影响,因此在推荐系统中引入社会关系对提高推荐准确率有重要意义

模型基本形式:社会化推荐问题的最终目标同协同过滤一样,也是对用户—物品矩阵R中的缺失项进行预测,可利用的信息包括两类:

1、用户历史评分信息

2、用户的社交关系信息

常用数据集:

  • Epinions:规模较大,包含用户对电影的评分信息,同时包含用户间的信任社交信息,值得注意的是,该数据集同时还包括不信任关系信息。

  • Yelp:规模大,需要手动提取自己需要的信息,包含评价评分信息,用户信息,商品信息,建议信息等。

  • Filmtrust:规模较小,包含用户对电影的评分信息,同时包含用户间的信任社交信息。

  • Ciao

  • Flickr

二、矩阵分解时代的社会化推荐

1.SoRec(CIKM, 2008)

一句话概括:同时分解评分矩阵和用户社交矩阵

2.SocialMF(SocialMF, 2010)

一句话概括:在矩阵分解中引入信任传播,用户表示接近其信任的用户

3.TrustSVD(AAAI, 2015)

一句话概括:在SVD++中引入信任关系,SVD++结合SoRec

三、图神经网络时代的社会化推荐

1.GraphRec(WWW,2019)

  • 图神经网络+注意力机制 捕获user-user 和user-item之间信息

  • 评分等级Embedding

这篇论文在之前有过详细笔记:zhuanlan.zhihu.com/p/99

2.DiffNet(SIGIR,2019)

一句话总结:用图神经网络模型模拟社交影响力传播过程,从而能更好的表示user和item

模型总体框架:

模型框架

主要包含四部分:①嵌入层;②融合层;③传播层;④预测层

嵌入层:free embedding,输入one-hot向量 

融合层:输入和特征向量,通过转换矩阵  和非线性变化,得到初始嵌入表示。对item也类似。

嵌入层与融合层

传播层:输入  ,通过K层传播,模拟社交影响力传播过程,得到节点在深度为K的表示为 

传播层

注:传播过程中只有user信息,没有item信息,item的隐含向量是静态的,作者并没有将静态信息在社交网络中传播,item信息不因社交传播而改变。。

预测层:给定用户a的嵌入表示  和item i的融合向量  

预测层

损失函数:基于pair-wise ranking 的损失函数

实验数据集:

与其他模型对比结果:

模型参数分析:(传播层数K,是否使用辅助特征(X、Y),是否使用one-hot向量(P、Q))

写在后面:社会化推荐与图神经网络结合的方法值得进一步思考,如何充分利用社交网络信息为推荐更好的服务。

最后附上本文提到的所有论文原文:

wolfkin-hth/Recommender-systems-paper github.com

学习路漫漫,狼崽在路上~


登录查看更多
2

相关内容

在线性代数的数学学科中,矩阵分解或矩阵分解是将一个矩阵分解成一个矩阵的乘积。有许多不同的矩阵分解;每种方法都适用于特定的一类问题。
近期必读的五篇KDD 2020【图神经网络 (GNN) 】相关论文_Part2
专知会员服务
158+阅读 · 2020年6月30日
推荐系统之矩阵分解家族
图与推荐
13+阅读 · 2020年3月28日
【知识图谱】基于知识图谱的用户画像技术
产业智能官
102+阅读 · 2019年1月9日
推荐系统中的矩阵分解技术
AINLP
9+阅读 · 2018年12月24日
推荐系统概述
Python开发者
11+阅读 · 2018年9月27日
【推荐系统】详解基于内容的推荐算法
产业智能官
23+阅读 · 2018年1月11日
【推荐系统】一文读懂推荐系统知识体系
产业智能官
41+阅读 · 2017年10月31日
推荐系统经典技术:矩阵分解
LibRec智能推荐
8+阅读 · 2017年10月10日
Arxiv
8+阅读 · 2019年5月20日
Arxiv
10+阅读 · 2019年2月19日
Arxiv
8+阅读 · 2018年2月23日
Arxiv
5+阅读 · 2017年11月13日
VIP会员
相关VIP内容
近期必读的五篇KDD 2020【图神经网络 (GNN) 】相关论文_Part2
专知会员服务
158+阅读 · 2020年6月30日
相关资讯
推荐系统之矩阵分解家族
图与推荐
13+阅读 · 2020年3月28日
【知识图谱】基于知识图谱的用户画像技术
产业智能官
102+阅读 · 2019年1月9日
推荐系统中的矩阵分解技术
AINLP
9+阅读 · 2018年12月24日
推荐系统概述
Python开发者
11+阅读 · 2018年9月27日
【推荐系统】详解基于内容的推荐算法
产业智能官
23+阅读 · 2018年1月11日
【推荐系统】一文读懂推荐系统知识体系
产业智能官
41+阅读 · 2017年10月31日
推荐系统经典技术:矩阵分解
LibRec智能推荐
8+阅读 · 2017年10月10日
相关论文
Top
微信扫码咨询专知VIP会员