贝叶斯方法可以用于学习神经网络权重的概率分布。将神经网络中的wi 和 b 由确定的值变成分布(distributions)。具体而言,为弥补反向传播的不足,通过在模型参数或模型输出上放置概率分布来估计。在权重上放置一个先验分布,然后尝试捕获这些权重在给定数据的情况下变化多少来模拟认知不确定性。该方法不是训练单个网络,而是训练网络集合,其中每个网络的权重来自共享的、已学习的概率分布。
变分贝叶斯深度学习综述
PaperWeekly
6+阅读 · 2022年3月21日
【ETH博士论文】贝叶斯深度学习,241页pdf
专知
9+阅读 · 2022年1月16日
比啃西瓜书更好的机器学习高阶教程!
专知
0+阅读 · 2021年11月18日
【限时】组队科研项目实战
夕小瑶的卖萌屋
0+阅读 · 2021年7月9日
【干货】《深度学习:Deep Learning》课程PPT下载
深度学习自然语言处理
1+阅读 · 2020年4月18日
参考链接
微信扫码咨询专知VIP会员