指导工作与生活的《算法之美》:用贝叶斯法则预测未来 II

2018 年 7 月 11 日 遇见数学

 数学家的结论: 

确定一个前提条件,

算法就能提供简单有效的

生活建议


下文节选自《算法之美:指导工作与生活的算法》, 已获出版社授权许可, [遇见数学] 特此表示感谢! 



贝叶斯法则与先验信念

可以想象,所有这些假设都是一致并可以想象的。为什么我们要偏向其中一种,而这一种并不比其余的更一致或可以想象?

——大卫•休谟

拉普拉斯也考虑了另一种修饰贝叶斯理论的方法,这将被证明是至关重要的:那就是如何处理那些比其他假设可能性更大的假设。例如,买彩票时,99%的中奖率是有可能的,但我们可以假设中奖率更有可能只有1%。这一假设应该体现在我们的估算过程中。


说得更具体点儿,例如有一个朋友给你看两个不同的硬币。一个是正常的“公平”硬币,正反两面都具有50–50的概率,另一种是两面都是头像的硬币。他把它们扔到一个袋子里,然后随意地拿出一个,他将硬币旋转一次:是头像。你认为你的朋友旋转的是哪个硬币?


贝叶斯的反向工作方案使这个问题变得简单。那个公平硬币转到头像的概率是50%,另一个双头硬币转到头像的概率是100%。因此,我们可以自信地断言,转到这个硬币的概率是100%除以50%,或朋友掏出双头硬币的概率是它的两倍。


现在考虑下面一次的旋转。这一次,朋友给你看9个公平硬币和一个双头像硬币,把所有10枚硬币都装进袋子,随机抽取一个,并翻转它:还是头像。现在你怎么想?这次是公平硬币还是双头像硬币?


拉普拉斯预料到了这一点,而且答案又一次简单得令人印象深刻。如果和以前一样,一枚公平硬币转到头像的概率正好是一枚双头像硬币的一半。但现在,首先公平的硬币被抽到的概率就是双头像硬币的 9 倍。事实证明,我们可以把这两个不同的概率都考虑进去,并把它们相乘:这就是说,你朋友持有一个公平的硬币的概率是双头像硬币的 4.5 倍。


描述这种关系的数学公式,将我们先前持有的观念和我们眼前的证据结合起来,就形成了后来的贝叶斯法则。有点儿讽刺的是,真正重要的工作却是由拉普拉斯完成的。它提供了一个非常简单的解决方案来如何处理现有的信念与观察到的证据:将它们的概率相乘。


值得注意的是,有一些预先存在的信念,在计算这个公式时至关重要。如果你的朋友只是走近你说:“我从这个袋子里翻出了一枚硬币,最后转出头像那面。你认为这是一枚公平硬币的概率有多大?”除非你最开始就对袋子里是什么硬币有一定了解,否则你完全无法回答这个问题。(当你对任何一个概率都无从得知的时候,你便无法将两个概率相乘),在硬币翻转之前,你对“袋子里”是什么的感觉,或是说在你看到任何数据之前,每个假设的概率都是真实可能的,这就是所谓的先验概率,或者简称为“先验”。贝叶斯法则总是需要一些先验,即使它只是一个猜测。有多少枚双头像硬币?抽到他们的概率有多大?那么,你的朋友有多大可能是一个骗子呢?


贝叶斯法则依赖于先验概率,这一点在历史上的某些时刻被认为是有争议的、有偏见的,甚至是不科学的。但在现实中,我们的头脑实际上很少会进入一个完全空白甚至停滞的状况。

当你对先验概率有一定的预估时,贝叶斯法则也适用于各种各样的预测问题,无论它们是大数据类型还是更常见的小数据排序。计算彩票获奖概率或扔硬币的概率仅仅是开始。由贝叶斯和拉普拉斯研究出的方法可以在任何时候帮助我们,尤其是当我们遇到不确定性或数据不足的问题和工作时。这正是我们试图预测未来时所面对的情况。

向上滑动阅览简介及目录 

算法之美

作者:【美】布莱恩·克里斯汀 【美】汤姆·格里菲思

当当 广告
购买

出版社:中信出版集团     出版年:2018年5月

我们所有人的生活都受到有限空间和有限时间的限制,因此常常面临一系列难以抉择的问题。在一天或者一生的时光里,哪些事是我们应该做的,哪些是应该放弃的?我们对杂乱无序的容忍底线是什么?新的活动与熟悉并喜爱的活动之间如何平衡,才能取得令人愉快的结果?这些看似是人类特有的难题,其实不然,因为计算机也面临同样的问题,计算机科学家几十年来也一直在努力解决这些问题,而他们找到的解决方案可以给我们很多启发。
通过丰富的跨学科研究,作者指出,计算机算法也可以用来解答人类面临的这些问题。这本书告诉我们如何更有效地利用直觉、什么时候应该把选择权交给命运、无所适从的时候应该如何做出选择,以及如何有效地与他人保持联系。从找配偶到找停车位,从组织管理个人邮箱的收件箱到理解人类记忆的作用原理,这本书把计算机科学的智慧转化为人类生活的策略,引导我们做出明智的选择。

序言
第1章 最优停止理论:如何准确选择停止观望的时机? 
秘书问题
37%从何而来?
情场上的出手时机
掌握候选对象的完整信息
卖房子的时机
最优停车位置
见好就收的时机
随时准备停止

第2章 探索与利用:要最新的还是要最好的? 
什么是探索与利用?
如何利用剩余时间?
赢留输变
基廷斯指数
遗憾与乐观
网上“土匪”
试验中的临床实验
不安分的世界
孜孜不倦地探索

第3章 排序:建立秩序 
排序狂潮
排序带来的苦恼
大O符号:衡量最坏情况的标准
平方时间:冒泡排序与插入排序
打破平方时间的魔咒:分治算法
超越比较法:比对数更好的算法
排下序是搜索的准备工作
排序与体育
发牢骚的权利:噪声与健壮性
杀戮排序:啄食顺序与优势等级
以竞争取代争斗

第4章 缓存:忘了它吧 
分级存储器体系
缓存清理与未卜先知
重整图书馆藏书
本地需求
家庭生活中的“高速缓存”
归档与堆存
遗忘曲线
经验暴政

第5章 时间调度理论:要事先行 
安排时间是一门科学
处理时限
把事情做好
找出问题所在
优先级反转和优先约束
减速带
放弃所有:抢占和不确定性
抢占并不是随意的:关联转换
颠簸状态
中断合并

第6章 贝叶斯法则:预测未来 
贝叶斯牧师的倒推理
拉普拉斯定理
贝叶斯法则与先验信念
哥白尼原则
贝叶斯与哥白尼
真实世界先验……
……以及他们的预测规则
小数据与思维
我们的预测体现出我们自己
机械复制时代的先验

第7章 过度拟合:不要想太多
反对复杂性案例
数据崇拜
过度拟合无处不在
检测过度拟合:交叉验证
如何应对过度拟合:惩罚复杂性
启发法
人类进化中的过度拟合
何时应该想的更少?

第8章 松弛:顺其自然 
最优化的难度
定义的难度
放松吧
无数灰色地带:持续的松弛
只是一张超速罚单:拉格朗日松弛算法
学会松弛

第9章 随机性:何时应用随机? 
抽样
随机算法
抽样的优势
三部分的权衡
山、谷和陷阱
局部最大值之外
模拟退火算法
随机性、进化和创造力

第10章 网络:我们如何联系? 
分组交换
信息确认
指数退避算法:宽恕的算法
流量控制和拥塞避免
反馈语:语言学的流量控制
缓存膨胀:这就是延时,傻瓜
迟到不如永远不到

第11章 博弈论:别人的想法 
达到均衡
占优策略,无论好坏
公地悲剧
机制设计:改变游戏
机制设计的演变
信息瀑布:泡沫的悲剧理性
你自己的计算

结语 计算善意



哥白尼原则

预测本就是一件难事,预测未来尤其如此。

——谚语

当理查德·戈特看到柏林墙时,他问了自己一个非常简单的问题:我在哪?也就是说,在这一人工建筑存在的全过程中,我是否恰好已经到达了呢?简而言之,他是在从时间角度问一个空间问题,而这一问题正是在400年前深深吸引着天文学家尼古拉·哥白尼的问题:我们在哪?地球在宇宙的什么位置?与前人不同,哥白尼激进地以为地球不是宇宙的中心,也就是说地球没有什么特别的。戈特决定采取同样的关于时间的分析步骤。


他设想,他到达柏林墙的那一刻并不特别,因为这只是柏林墙整个历史中的一瞬。如果有任何一个时刻都有同样的可能性,那么平均来说,他的到来应该是在一个精确的中间点(因为他有50%概率是在此之前到来,或50%的概率是在此之后)。更普遍的是,除非我们确定我们在某个特定时间现象中出现的特定中间点。如果我们假设我们到达的中间点有精确的时间,那么对于它在未来还可以持续多久的最佳猜测就变得很明显:确切地说就是它已经存在的时间。戈特看到柏林墙时已经建成8 年了,所以他最好的猜测是,它将再存在8 年。(最终,这个数字是20 年。)

图自网络

这个简单的推理,被戈特称为哥白尼原则,它可以得出一个简单的算法,能为各类事件做出预测判断。在没有任何先入为主的预测时,我们不仅可以用它来获得对柏林墙终结时间的预测,同时也可以预测任何其他短期和长期现象。哥白尼原则预测道,美利坚合众国作为一个国家将一直持续到2255 年左右,谷歌将持续到大约2032 年,你与你的朋友一个月前开始的一段关系将可能再持续约一个月(也许你该告诉他不要参加刚收到的婚礼邀请呢)。同样,它告诉我们要持怀疑态度,例如,《纽约客》杂志封面是一个人拿着一个6 英寸的智能手机,上面有大家熟悉的网格正方形应用程序图标,标题为“2525”。但这是令人怀疑的。据我们所知,智能手机刚诞生10 年,哥白尼原则告诉我们,它不可能出现在2025 年,更别说5 世纪后了。到2525年,即使还有一个纽约市存在,也会让人感到吃惊。


更实际地说,如果我们正在考虑一份建筑工地的工作,他们的标牌表明“上一次工程事故发生在7 天前”,我们可能会想离开,除非这是一份我们计划做得特别短的工作。如果一个城市的公交系统承担不起可以告诉乘客下一班车什么时候会到来这一非常有用却很昂贵的实时提醒系统的话,哥白尼原则表明,可能有一个更简单也更便宜的替代品。那就是简单地显示前一辆公交车到达此处的时间距离现在有多久,这可以为判断下一辆公交车到来的时间提供一个实质性的提示。


但是哥白尼原则就一定正确吗?当戈特在《自然》杂志上发表了他的猜想之后,该杂志收到了很多重要信件。当我们尝试将规则应用到一些比较熟悉的例子时,很容易理解这是为什么。如果你遇到一个90岁的男子,哥白尼原则预测他会活到180岁。同时,每个6岁的男孩都会被预测将在12岁时早逝。


要理解为什么哥白尼原则是合理的,以及为什么它有时不合理,我们需要回归到贝叶斯法则。因为,哥白尼原则尽管具有明显的简单性,但其的确是贝叶斯法则的一个实例。




贝叶斯与哥白尼

在预测未来时,如柏林墙的寿命这类问题,我们需要评估的假设是所有手头上掌握的现象的持续时间:它会持续一个星期,一个月,一年,还是十年?正如我们已经看到的,要应用贝叶斯法则,我们首先需要给每个现象的持续时间分配一个先验概率。事实证明,哥白尼原则正是应用贝叶斯法则并使用了所谓的无信息先验的结果。


起初,这似乎是一个矛盾。如果贝叶斯法则总是要求我们明确事先的预测和想法,我们又怎么能告诉它,我们没有任何预测结果呢?在彩票抽奖的情况下,为无知进行辩护的一个方法就是被称为“统一先验”的方法,这就是认为每个中奖彩票的比例都是相同的。在柏林墙这一例子中,无信息先验意味着:我们对将要预测的时间范畴一无所知:墙可能会在接下来的 5 分钟或 5 年后倒塌。


除了这些无信息先验,如我们所见,我们供应给贝叶斯法则的唯一一部分数据,事实上就是我们到达柏林墙的时候,它已经存在了 8 年。任何预测它小于 8 年寿命的假设都可以被排除,因为这些假设不能解释我们这里的情况。(同样的,一枚双头像硬币就可以排除字那面的可能性。)任何超过 8 年的预测都是有可能的,但是如果柏林墙要存在 100 万年,那它将是一个很大的巧合,表明我们几乎是接近它存在的最初起点。因此,即使特别长的寿命不能排除,但它也不大可能出现。


当贝叶斯法则与所有这些概率结合——更有可能的短时限就拉低了平均预测,可能性更小但也有一定可能性的长时限又将其拉高,哥白尼原则便出现了:如果我们要预测某个事物还将持续存在多久(在对它没有其他任何了解时),我们可以做出的最好的猜测就是,它将再持续已经存在的时间。


事实上,戈特并不是第一个提出类似哥白尼原则的人。20 世纪 20 年代中期,贝叶斯统计学家哈罗德·杰佛利曾考虑仅仅通过一辆城市有轨电车的序号来确定一个城市有轨电车的数量,并得出了相同的答案:该数字的双倍。一个类似的问题出现得更早,在第二次世界大战期间,同盟国试图估计由德国制造的坦克数量。他们通过所捕获的坦克的序列号,在纯数学估计的基础上进行预测,得出的结果是德国每月生产246 辆坦克,而通过广泛的(高度危险的)空中侦察所获得的估计表明,这个数字更接近于1400。而战后,德国记录显示的真实数字是:245。


在认识到哥白尼原则是无信息先验基础上的贝叶斯法则之后,就可以回答很多关于其有效性的问题。哥白尼原则在我们什么都不知道的情况下似乎是合理的、准确的,如在1969年看到的柏林墙,我们不确定什么时间范畴是合适的。同时,在我们对某一对象的确有所了解时,就会感觉这是完全错误的。预测一个90岁的人能活到180岁是不合理的,这恰恰是因为我们关于人类寿命已经了解了很多——在这种情况下,我们就可以预测得更好。我们给贝叶斯法则带来的先验信息越丰富,我们便能从中得到越有用的预测。(未完待续)

登录查看更多
0

相关内容

本话题关于日常用语「概率」,用于讨论生活中的运气、机会,及赌博、彩票、游戏中的「技巧」。关于抽象数学概念「概率」的讨论,请转 概率(数学)话题。
【新书册】贝叶斯神经网络,41页pdf
专知会员服务
174+阅读 · 2020年6月3日
广东疾控中心《新型冠状病毒感染防护》,65页pdf
专知会员服务
18+阅读 · 2020年1月26日
一文读懂机器学习中的贝叶斯统计学
数据分析
26+阅读 · 2019年5月8日
浅谈贝叶斯和MCMC
AI100
14+阅读 · 2018年6月11日
生活中处处的贝叶斯
算法与数学之美
4+阅读 · 2018年2月19日
送书 | 深入浅出,一起学习贝叶斯!
AI100
10+阅读 · 2018年2月2日
一文读懂贝叶斯分类算法(附学习资源)
大数据文摘
12+阅读 · 2017年12月14日
独家 | 一文读懂贝叶斯分类算法(附学习资源)
数据派THU
7+阅读 · 2017年12月7日
专栏 | 贝叶斯学习与未来人工智能
机器之心
10+阅读 · 2017年9月19日
Financial Time Series Representation Learning
Arxiv
10+阅读 · 2020年3月27日
Adaptive Neural Trees
Arxiv
4+阅读 · 2018年12月10日
Relational Deep Reinforcement Learning
Arxiv
10+阅读 · 2018年6月28日
VIP会员
相关资讯
一文读懂机器学习中的贝叶斯统计学
数据分析
26+阅读 · 2019年5月8日
浅谈贝叶斯和MCMC
AI100
14+阅读 · 2018年6月11日
生活中处处的贝叶斯
算法与数学之美
4+阅读 · 2018年2月19日
送书 | 深入浅出,一起学习贝叶斯!
AI100
10+阅读 · 2018年2月2日
一文读懂贝叶斯分类算法(附学习资源)
大数据文摘
12+阅读 · 2017年12月14日
独家 | 一文读懂贝叶斯分类算法(附学习资源)
数据派THU
7+阅读 · 2017年12月7日
专栏 | 贝叶斯学习与未来人工智能
机器之心
10+阅读 · 2017年9月19日
Top
微信扫码咨询专知VIP会员