卡尔曼滤波是一种高效率的递归滤波器(自回归滤波器),它能够从一系列的不完全及包含噪声的测量中,估计动态系统的状态。

VIP内容

在以人工智能技术为支持的推荐、搜索、广告等业务中,点击率预估(CTR)一直是技术攻坚的核心,同时也是人工智能技术在业务落地中最难实现的技术方向之一。第一期介绍了视觉信息使用帮助提高点击率预估的准确度(Category-Specific CNN for Visual-aware CTR Prediction at JD.com KDD2020)。本次介绍京东广告团队在用户行为建模中的工作:基于卡尔曼滤波的注意力机制——广告点击率预估中的用户行为建模。

此次工作《Kalman Filtering Attention for User Behavior Modeling in CTR Prediction》被机器学习领域中含金量最高的顶级国际会议NeurIPS 2020成功收录为Spotlight论文。本次会议的Oral+Spotlight共收录了385篇论文,占9454篇总投稿量的4%。

介绍之前,首先致谢京东零售数据算法通道委员会的支持。2020年京东零售建立数据算法通道委员会后,推出了适合算法工作特点的评价体系机制,算法技术氛围变的更浓厚,使得算法工作能朝向长期深入的方向去深耕,也为算法工程师去尝试风险较高的创新项目提供信心保障,将视野投向行业,敢于去挑战业界的难题。

我们提出了一种基于卡尔曼滤波的注意力机制,用于工业级广告点击率预测系统中的用户行为建模任务。通过卡尔曼滤波建模,有效地引入特定搜索词的全局先验信息,并有效控制高频商品在用户行为中的权重,从而得到比现存注意力机制更适配用户行为建模任务的算法,有效提升用户行为建模及其后续广告点击率预估的准确性。

成为VIP会员查看完整内容
0
12

最新论文

We present an R package bssm for Bayesian non-linear/non-Gaussian state space modelling. Unlike the existing packages, bssm allows for easy-to-use approximate inference for the latent states based on Gaussian approximations such as the Laplace approximation and the extended Kalman filter. The package accommodates also discretised diffusion latent state processes. The inference is based on fully automatic, adaptive Markov chain Monte Carlo (MCMC) on the hyperparameters, with optional importance sampling post-correction to eliminate any approximation bias. The package implements also a direct pseudo-marginal MCMC or a delayed acceptance pseudo-marginal MCMC using the approximations. The package supports directly models with linear-Gaussian state dynamics (but with non-Gaussian observation models), and has an Rcpp interface for specifying custom non-linear models.

0
0
下载
预览
Top