序列事件预测的目标是根据历史事件序列估计下一个事件,在序列推荐、用户行为分析和临床治疗等方面都有应用。在实践中,下一个事件预测模型用一次收集的序列数据进行训练,需要在遥远的未来泛化到新到达的序列,这就要求模型处理从训练到测试的时间分布转移。在本文中,我们首先从数据生成的角度揭示了一个消极的结果,即由于潜在的上下文混杂因素,即历史事件和下一个事件的共同原因,现有的最大似然估计方法在分布转移时将失败。在此基础上,设计了一种基于后门调整的学习目标,并进一步利用变分推理使其易于处理序列学习问题。在此基础上,我们提出了一个具有层次分支结构的框架,用于学习特定于上下文的表示。对不同任务(如顺序推荐)的综合实验证明了我们的方法的有效性、适用性和可扩展性,以各种现成的模型为骨干。

成为VIP会员查看完整内容
27

相关内容

【NeurIPS2022】序列(推荐)模型分布外泛化:因果视角与求解
【NeurIPS2022】主动贝叶斯因果推理
专知会员服务
55+阅读 · 2022年11月14日
【NeurIPS2022】分布式自适应元强化学习
专知会员服务
20+阅读 · 2022年10月8日
【MIT博士论文】自监督学习语音处理,148页pdf
专知会员服务
50+阅读 · 2022年8月31日
【NeurIPS2021】学习用于分布外预测的因果语义表示
专知会员服务
17+阅读 · 2021年11月19日
专知会员服务
21+阅读 · 2021年9月21日
专知会员服务
29+阅读 · 2021年5月20日
【NeurIPS2020】可处理的反事实推理的深度结构因果模型
专知会员服务
46+阅读 · 2020年9月28日
【NeurIPS2022】主动贝叶斯因果推理
专知
3+阅读 · 2022年11月14日
【NeurIPS2022】时序解纠缠表示学习
专知
1+阅读 · 2022年10月30日
【NeurIPS2022】分布式自适应元强化学习
专知
3+阅读 · 2022年10月8日
为什么深度学习是非参数的?
THU数据派
1+阅读 · 2022年3月29日
论文浅尝 | 时序与因果关系联合推理
开放知识图谱
33+阅读 · 2019年6月23日
用深度学习揭示数据的因果关系
专知
28+阅读 · 2019年5月18日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
26+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
23+阅读 · 2008年12月31日
Arxiv
14+阅读 · 2022年10月15日
Arxiv
21+阅读 · 2022年2月24日
Arxiv
13+阅读 · 2022年1月20日
Arxiv
12+阅读 · 2020年12月10日
Arxiv
10+阅读 · 2020年11月26日
VIP会员
相关VIP内容
【NeurIPS2022】序列(推荐)模型分布外泛化:因果视角与求解
【NeurIPS2022】主动贝叶斯因果推理
专知会员服务
55+阅读 · 2022年11月14日
【NeurIPS2022】分布式自适应元强化学习
专知会员服务
20+阅读 · 2022年10月8日
【MIT博士论文】自监督学习语音处理,148页pdf
专知会员服务
50+阅读 · 2022年8月31日
【NeurIPS2021】学习用于分布外预测的因果语义表示
专知会员服务
17+阅读 · 2021年11月19日
专知会员服务
21+阅读 · 2021年9月21日
专知会员服务
29+阅读 · 2021年5月20日
【NeurIPS2020】可处理的反事实推理的深度结构因果模型
专知会员服务
46+阅读 · 2020年9月28日
相关资讯
【NeurIPS2022】主动贝叶斯因果推理
专知
3+阅读 · 2022年11月14日
【NeurIPS2022】时序解纠缠表示学习
专知
1+阅读 · 2022年10月30日
【NeurIPS2022】分布式自适应元强化学习
专知
3+阅读 · 2022年10月8日
为什么深度学习是非参数的?
THU数据派
1+阅读 · 2022年3月29日
论文浅尝 | 时序与因果关系联合推理
开放知识图谱
33+阅读 · 2019年6月23日
用深度学习揭示数据的因果关系
专知
28+阅读 · 2019年5月18日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
26+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
23+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员