【NeurIPS 2020京东】基于卡尔曼滤波的注意力机制—广告点击率预估中的用户行为建模

在以人工智能技术为支持的推荐、搜索、广告等业务中，点击率预估（CTR）一直是技术攻坚的核心，同时也是人工智能技术在业务落地中最难实现的技术方向之一。第一期介绍了视觉信息使用帮助提高点击率预估的准确度（Category-Specific CNN for Visual-aware CTR Prediction at JD.com KDD2020）。本次介绍京东广告团队在用户行为建模中的工作：基于卡尔曼滤波的注意力机制——广告点击率预估中的用户行为建模。

此次工作《Kalman Filtering Attention for User Behavior Modeling in CTR Prediction》被机器学习领域中含金量最高的顶级国际会议NeurIPS 2020成功收录为Spotlight论文。本次会议的Oral+Spotlight共收录了385篇论文，占9454篇总投稿量的4%。

介绍之前，首先致谢京东零售数据算法通道委员会的支持。2020年京东零售建立数据算法通道委员会后，推出了适合算法工作特点的评价体系机制，算法技术氛围变的更浓厚，使得算法工作能朝向长期深入的方向去深耕，也为算法工程师去尝试风险较高的创新项目提供信心保障，将视野投向行业，敢于去挑战业界的难题。

我们提出了一种基于卡尔曼滤波的注意力机制，用于工业级广告点击率预测系统中的用户行为建模任务。通过卡尔曼滤波建模，有效地引入特定搜索词的全局先验信息，并有效控制高频商品在用户行为中的权重，从而得到比现存注意力机制更适配用户行为建模任务的算法，有效提升用户行为建模及其后续广告点击率预估的准确性。