Sequential recommendation as an emerging topic has attracted increasing attention due to its important practical significance. Models based on deep learning and attention mechanism have achieved good performance in sequential recommendation. Recently, the generative models based on Variational Autoencoder (VAE) have shown the unique advantage in collaborative filtering. In particular, the sequential VAE model as a recurrent version of VAE can effectively capture temporal dependencies among items in user sequence and perform sequential recommendation. However, VAE-based models suffer from a common limitation that the representational ability of the obtained approximate posterior distribution is limited, resulting in lower quality of generated samples. This is especially true for generating sequences. To solve the above problem, in this work, we propose a novel method called Adversarial and Contrastive Variational Autoencoder (ACVAE) for sequential recommendation. Specifically, we first introduce the adversarial training for sequence generation under the Adversarial Variational Bayes (AVB) framework, which enables our model to generate high-quality latent variables. Then, we employ the contrastive loss. The latent variables will be able to learn more personalized and salient characteristics by minimizing the contrastive loss. Besides, when encoding the sequence, we apply a recurrent and convolutional structure to capture global and local relationships in the sequence. Finally, we conduct extensive experiments on four real-world datasets. The experimental results show that our proposed ACVAE model outperforms other state-of-the-art methods.


翻译:作为新兴专题的顺序建议因其重要的实际意义而引起越来越多的关注。基于深层次学习和关注机制的模型在相继建议中取得了良好的绩效。最近,基于变压自动编码器(VAE)的基因模型显示了协作过滤的独特优势。特别是,相继VAE模型作为VAE的经常版本可以有效捕捉在用户序列中各项目之间的时间依赖,并进行顺序建议。然而,基于VAE的模型受到共同的限制,即获得的近似后端分布的代表性能力有限,导致生成的样本质量较低。这对于生成序列来说尤其如此。为了解决上述问题,我们在此工作中提出了一个叫做反向和对立自动自动编码器(VAAACE)的新型方法,用于顺序建议。具体地说,我们首先在反向式模型(AVAVB)框架下为序列生成序列生成的对抗性培训,这使我们的模型产生高质量潜伏变量。然后,我们采用对比式的样本损失。对于生成序列序列的经常数据,在个人序列结构中,潜值变量将更能学习个人变式的顺序结构。最后的对比,将显示我们所拟议的四级数据结构。

17
下载
关闭预览

相关内容

【AAAI2021】对比聚类,Contrastive Clustering
专知会员服务
76+阅读 · 2021年1月30日
不可错过!华盛顿大学最新《生成式模型》课程,附PPT
专知会员服务
59+阅读 · 2020年12月11日
迁移学习简明教程,11页ppt
专知会员服务
105+阅读 · 2020年8月4日
【Google】平滑对抗训练,Smooth Adversarial Training
专知会员服务
46+阅读 · 2020年7月4日
【MIT】反偏差对比学习,Debiased Contrastive Learning
专知会员服务
90+阅读 · 2020年7月4日
Transferring Knowledge across Learning Processes
CreateAMind
25+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
25+阅读 · 2019年1月4日
vae 相关论文 表示学习 1
CreateAMind
12+阅读 · 2018年9月6日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
4+阅读 · 2018年4月17日
Arxiv
9+阅读 · 2018年1月30日
Arxiv
9+阅读 · 2018年1月4日
VIP会员
Top
微信扫码咨询专知VIP会员