This paper investigates a family of adaptive importance sampling algorithms for probability density function exploration. The proposed approach consists in modeling the sampling policy, the sequence of distributions used to generate the particles, as a mixture distribution between a flexible kernel density estimate (based on the previous particles), and a naive heavy tail density. When the share of samples generated according to the naive density goes to zero but not too quickly, two types of results are established: (i) uniform convergence rates are derived for the sampling policy estimate; (ii) a central limit theorem is obtained for the sampling policy estimate as well as for the resulting integral estimates. The fact that the asymptotic variance is the same as the variance of an oracle procedure, in which the sampling policy is chosen as the optimal one, illustrates the benefits of the approach. The practical behavior of the resulting algorithms is illustrated in a simulation study.


翻译:本文调查了一组用于概率密度功能勘探的适应性重要抽样算法。拟议方法包括模拟取样政策、用于产生粒子的分布序列,作为灵活内核密度估计(基于先前的粒子)和天真的重尾密度之间的混合分布。当根据天真密度生成的样本比例降至零但不会太快时,可以确定两类结果:(一)为取样政策估计得出统一的趋同率;(二)为取样政策估计和由此产生的综合估计得出一个中心限值。在抽样政策选择为最佳的甲骨文程序上,非抽取差异与甲骨骼程序的差异相同,这表明了该方法的好处。模拟研究中说明了由此得出的算法的实际行为。

0
下载
关闭预览

相关内容

【干货书】真实机器学习,264页pdf,Real-World Machine Learning
专知会员服务
59+阅读 · 2020年3月19日
强化学习最新教程,17页pdf
专知会员服务
166+阅读 · 2019年10月11日
机器学习入门的经验与建议
专知会员服务
89+阅读 · 2019年10月10日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
25+阅读 · 2019年1月4日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
条件GAN重大改进!cGANs with Projection Discriminator
CreateAMind
8+阅读 · 2018年2月7日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Learning to Weight for Text Classification
Arxiv
8+阅读 · 2019年3月28日
A General and Adaptive Robust Loss Function
Arxiv
7+阅读 · 2018年11月5日
Learning to Importance Sample in Primary Sample Space
Arxiv
5+阅读 · 2018年3月16日
Arxiv
5+阅读 · 2017年12月14日
VIP会员
相关资讯
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
25+阅读 · 2019年1月4日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
条件GAN重大改进!cGANs with Projection Discriminator
CreateAMind
8+阅读 · 2018年2月7日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Top
微信扫码咨询专知VIP会员