推荐系统遇上深度学习(一一二)-[阿里]用户兴趣建模中的非序贯方法

本文要介绍的论文标题为《A Non-sequential Approach to Deep User Interest Model for Click-Through Rate Prediction》。论文在对过往用户兴趣建模方法总结的基础上,提出了非序贯方法对用户兴趣进行处理,一起来看一下。

1、背景

对用户兴趣建模在点击率预估中是一种常见的方式,如阿里最早提出的深度兴趣网络DIN,其基本的思路是:针对用户多样化的兴趣,使用注意力机制建模用户不同的行为与目标商品的相关性,与目标商品更相关的行为将赋予更高的权重,相关性不大的物品则赋予较低的权重。

在DIN的基础上,更多的兴趣建模方式被提出,如DIEN和DSIN考虑用户行为的先后顺序,使用GRU或LSTM对用户行为兴趣进行提取。但这类序贯建模的方式并不太适用于长行为序列建模,主要存在以下几方面的缺点:1)GRU和LSTM在线上预测时耗时过高;2)对于用户行为序列的长度,需要按照人工设定的最大长度进行截断/补齐,存在一定的信息缺失;3)固定长度的用户行为序列,其时间跨度可能差别巨大(忽略了时间因素),所提供的信息也是完全不同的,如下图中活跃用户和不活跃用户的行为对比:

针对长行为序列建模的问题,一些算法与工程co-design的方法也被提出,如MIMN使用Memory Network对用户行为进行建模,SIM使用搜索的思路,将长行为序列转换为短行为序列等等。

而本文使用非序贯的方式对用户行为数据进行处理,提出了DIN with Multidimensional Partition(DINMP),对用户长行为序列进行建模,下一节中进行详细介绍。

2、DINMP介绍

本节将分为三步对DINMP进行介绍。首先,将介绍一种稀疏的Key-Value的用户行为存储方式;随后,介绍如何将这种非序贯的用户行为数据表示方式应用于DIN中;最后,将介绍DINMP模型。

2.1 Sparse Key-vector Representation for Behavior Data

用户行为的序贯和非序贯表示形式可以用下图进行对比:

非序贯方式下,按照行为序列中的物品id进行聚合,用户行为序列表示为:

其中,j代表第j个物品,vj代表物品j的信息,其可以有如下几种表示方式

1)vj=[cj],其中,cj代表第j个物品在用户行为序列中出现的次数
2)vj=[tj,cj],除次数外,tj代表第j个物品最后一次行为发生时间
3)vj=[tj,cj, αj],除次数和最后一次发生时间外, αj(这里是alpha,不是字母a)代表物品j对应的类别(论文这里下标全是i,可能是写错了)

后文主要使用最后一种表示方式。

2.2 Enhanced Deep Interest Network

本节介绍如何将这种非序贯的用户行为数据表示方式应用于DIN中。这里主要是对attention部分的改进,其示意图如下所示:

在DIN中,attention部分的输出向量采用weighted pooling的方式,计算公式如下:

其中,ej代表行为序列中第j个行为的embedding,qi代表目标物品的embedding。a(ej,qi)代表计算的attention score。

使用非序贯的用户行为数据表示方式后,attention部分的计算公式如下:

而attention score的计算,将物品j的出现次数,最后一次发生的时间,以及类别因素进行考虑,计算公式如下:

其中,pa=a(ej,qi),pt=𝜃jT𝜃t,pc=𝜃jT𝜃c,pα=𝜃jT𝜃α,而𝜃j=𝜃(ej),𝜃t,𝜃c,𝜃α分别代表物品j、时间t、次数c和类别α对应的embedding。

2.3 DIN with Multidimensional Partition

在EDIN的基础上,对用户行为序列进行多个维度的切分,如时间维度和类别维度,便是本文提出的DINMP模型,其结构如下图所示:

这里主要介绍下按时间切分的思路。如第一节中所介绍的,活跃用户和非活跃用户的行为发生时间,差异非常大。因此,按照时间对用户行为进行切分,每一部分单独过一遍attention网络,如分为1天之内,2天之内,4天之内,一周之内等。每一部分的行为经过Attention网络之后,输出对应的向量[E1,E2,E3,...,ET]。接下来,每一部分的向量可以拼接或者使用self-attention结构,来提升模型的表达能力。

3、实验结果及分析

最后,来看一下实验结果部分,论文比较了DINMP与许多base模型在多个数据集上的效果,离线AUC都有明显的提升:

好了,本文就介绍到这里,感兴趣的同学可以阅读原文~~

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 151,829评论 1 331
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 64,603评论 1 273
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 101,846评论 0 226
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 42,600评论 0 191
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 50,780评论 3 272
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 39,695评论 1 192
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,136评论 2 293
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 29,862评论 0 182
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 33,453评论 0 229
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 29,942评论 2 233
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,347评论 1 242
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 27,790评论 2 236
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,293评论 3 221
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,839评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,448评论 0 181
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 34,564评论 2 249
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 34,623评论 2 249

推荐阅读更多精彩内容