概率论与随机过程相关书籍点评

2017 年 8 月 11 日 算法与数学之美 Random Walk
概率论与随机过程相关书籍点评

概率论与随机过程相关书籍点评



这次讲一下我比较了解的概率论与随机过程的相关书籍,也讲一下相关知识的学习顺序。提到的书,如果没有特别注明,都是国内出版过的。


按北大的课程设置,相关课程是初等概率论、初等随机过程、初等随机分析,测度论,高等概率论、高等随机过程、高等随机分析(当然,课程名不是这样的)。后三门大概是基于测度论的前三门的强化。一般是大二下初等概率论,大三上初等随机过程,大三下测度论,大四上高等概率论,大四下高等随机过程,两门随机分析都是两年开一次,什么时候赶上什么时候学。


1 初等概率论

只需要一些微积分,可能还要一点线性代数。只是讲一些概率论的基础概念,理解难度不大(虽然我并没有资格说这种话,毕竟初等概率论考了专业课最低分...),看什么书没太有区别。

北大常用的是何书元的《概率论》和李贤平的《概率论基础》(最新是第三版,配有习题解答《概率论基础学习指导书》,用来刷题不错)。我觉得李贤平的书好一点。此外钟开莱有一本《初等概率论》(应该只有英文),Sheldon Ross有一本《概率论基础教程》,我只是翻过,应该都不错。

2 初等随机过程

这门课在北大叫做应用随机过程,据说是『随机过程随机过』的出处。我修这门课的时候,大岳老师说只要期中和期末加起来够60分就可以,结果期中平均分三十多...这门课需要修过初等概率论,可能还要一点常微分方程。讲离散时间和连续时间的马氏链,以及布朗运动的初等理论。这门课的内容比较杂,也不是特别成体系,我有一个后来去学代数几何的好基友选了这课,就觉得学起来不舒服。如果出于偏应用的目的学这门课,其实没必要搞这么难,有很多金融数学系的同学抱怨,所以后来开了难度不同的两个班。

北大用的教材是钱敏平、龚光鲁、陈大岳、章复熹的《应用随机过程》(陈大岳老师主页上有勘误表)。坦白说这本书很不适合一般人用。这么多内容,却只有134页,原因就是很多定理证明被留做了习题。

西江月·证明 

即得易见平凡,仿照上例显然。留作习题答案略,读者自证不难。 

反之亦然同理,推论自然成立,略去过程QED,由上可知证毕。)

而且这本书的习题特别难,似乎也没有流传的习题解答。有几道题我当时问大岳老师,他都要想好几天才能告诉我答案。我当时专门组织了一个习题课,给大家讲作业题。(题图就是这本书,纪念我在这本书上花的心血和写下的心得笔记,以及被师弟顺走又在毕业两年之后被我找回来的离奇经历)

钱敏平老师对这本书不满意,又写了一本,我在的时候还说让我校对一下,结果前几天才刚出版,叫《应用随机过程:模型和方法》。我显然是没看过,但看目录里塞了那么多东西,还不到两百页,估计也不太好读...

我上这门课的时候,参考书是Lawler的《随机过程导论》和Norris的Markov Chains (这本书国内没出版过,北大的同学可以去本阅借)。我比较喜欢Norris,马氏链讲得很清楚。布朗运动的非严格理论我好像没太看过什么参考书,记得课上提到过钟开莱有一本Green, Brown, and Probability(也是国内没出版)。Sheldon Ross有一本《应用随机过程:概率模型导论》,很厚,细节比较多,可以适当参考。

3 初等随机分析

需要初等随机过程。讲随机积分和随机微分方程的初等理论。

这课我就没有好好学过,最后和初等概率论一样并列专业课最低分。用的教材是龚光鲁的《随机微积分方程及其应用概要》,用起来还可以。参考书是Oksendal的《随机微分方程》,虽然好像里面有些写得不严格,但还挺好用的。钟开莱有一本《随机积分导论》应该也可以。偏金融的话可以看Shreve的《金融随机分析》。偏物理化学的话可以看饭卡盆(大雾)van Kampen的《物理和化学中的随机过程》。

最后以一个段子结尾,这个段子也是我下决心学概率的原因之一。

二维网格上的简单随机游动是(零)常返的,是说会以概率一回到出发点(虽然用时的期望是无穷),三维网格上的简单随机游动是非常返的,有一个正概率再也回不到出发点。

Shizuo Kakutani (角谷静夫)说A drunk man will find his way home, but a drunk bird may get lost forever. 醉汉总能找到家,但醉鸟可能会永远沉醉不知归路。因为醉汉在地上走,是二维随机游动,总能到家,醉鸟在天上飞,是三维随机游动,有可能永远也找不到家。

这个段子还被用来安慰在理科楼(迷)群(宫)里随机游动不知归路的同学们:二维随机游动,终归是能到想去的地方的。



4 测度论

讲抽象空间上如何定义测度、积分,总体来说是实变函数论在一般可测空间上的抽象,是Kolmogorov建立现代概率论的理论基础。只为了学后续的概率的话,也不用学太深。需要数学分析和实变函数论,虽然我先学的测度论,再学的实变,于是根本没有『实变函数学十遍』的感觉。

北大的教材是程士宏的《测度论与概率论基础》,可以用。国内教材比较出名的好像是严加安的《测度论讲义》。我用的是Halmos的《测度论》,GTM18,记号太老,没有必要用,后面的Haar测度也不是给概率论用的。Doob有一本《测度论》,GTM143, 还行。Stein的实分析里面有测度论,其实也不错。特仑苏·陶(大雾,陶哲轩)有一本An Introduction to Measure Theory也许可以看看,国内应该没出版,网上有。想速成的话,可以看Durrett的Probability: Theory and Examples, 国内影印过第三版,现在估计绝版了。最新是第四版。这本书第三版的附录或第四版的第一章讲了高等概率需要的一些测度论。

5 高等概率论

基于测度论,讲概率论的严格基础,大数律,中心极限定理。需要初等概率论和测度论。到这里算是进入严格的概率论了。这部分分析味道很重,动不动就估个不等式。总之风格和之前的初等部分完全不一样,适应了才算是真正入了概率论的门。之前的初等概率论随机过程玩得再溜,也只是雕虫小技,想要做概率论随机过程的研究,以此为生,还是要靠硬分析技巧。(硬分析比如调和分析,软分析比如泛函分析,学过的自然懂其中的区别)这也是概率这个学科比较坑的一点,先用比较基础甚至有点组合味道的初等概率论随机过程把你拉入坑,再放分析大狗出来咬你。我后来受不了这种硬分析风格(功力不够),就转向应用,回去做初等问题了。

6 高等随机过程

基于测度论,讲马氏过程的严格理论,鞅论,遍历定理,布朗运动的严格理论。需要初等随机过程,测度论,高等概率论。这个时候泛函分析也该会了。学到这里,你就知道之前的初等随机过程是多么的粗浅低端不严格,之前学得好而洋洋自得是多么的naive。这部分风格比较多样,也比高等概率论有趣一些。而且这部分相对更有用,比如鞅论里的可选停时定理,能有效而严格地处理各种『赌徒必胜策略』,『生到男孩才停止会不会造成男女比例不均衡』问题。遍历定理也是个有趣的东西,简单来说,遍历过程的时间平均等于空间平均。陈大岳主页上写给同学们的临别赠言是:人生不是平稳过程,但遍历定理仍然成立!大概就是说,如果你此刻本可能获得某些东西却没有,那么将来一定会有的。当然反过来理解也是可以的:如果你现在无论如何也找不到妹子,那么将来也别想了。

高等概率论和高等随机过程的书放在一起讲。北大用的教材是Durrett的Probability: Theory and Examples,高等概率论讲第三版的前两章和附录。高等随机过程讲第三版的四六七章。这本书非常主流,写得也确实不错,网上还有习题解答。我曾花费大量时间,把这本书读了三四遍。为了防止散架,往书脊上灌了半瓶胶水。题图就是这本书。我大二下学期开始看这本书,看了两个月觉得可以学下去,于是就决定学概率。后来发现读过了也不能完全掌握,难以融会贯通,心中非常痛苦。虽然现在不做概率论与随机过程的严格理论了,但还算是做应用概率。之前开会的时候见到了Durrett本尊,心情非常复杂。btw,我的Durrett曾经被韦神开过光。

Kallenberg的《现代概率论基础》(第二版)涵盖内容更多一些,写得很难,给当年大三的我留下了深深的心理阴影。某个大牛师兄后来说,这本书如果有老师带着或者同学组织讨论班读,还可以接受,纯粹自学没有必要。这本书好像是中科院的教材。

Shiryaev的《概率》(GTM95)我翻过一点,是老毛子的风格,比较硬来,比较难读。

Durrett没有讲连续鞅,想学的话可以看Rogers的《扩散 马尔可夫过程和鞅》。

高等随机过程可以从泛函角度来看,Bobrowski有一本《概率论与随机过程中的泛函分析》,里面有点错误,总体不难,比较适合开阔思路。比如把条件期望看做随机变量在较粗的filtration上的正交投影。

Williams有一本《概率和鞅》,据说思路不错。

此外钟开莱、Loeve等人也写过类似的书。我的意见是找准适合自己的书,坚持读下去就好,来回换书不可取。

7 高等随机分析

基于测度论,讲随机积分与随机微分方程的严格理论。需要之前提到的几乎所有课程,还有泛函分析和偏微分方程。这是北大开设的有固定内容的最难的概率课,两年开一次,我有能力上的时候已经毕业了,所以不清楚具体情况。

课本或参考书应该是Karatzas & Shreve的《布朗运动和随机计算》,GTM113. (世图这书名翻译也是醉了,stochastic calculus居然翻译成随机计算)这本书很经典,不好读。同样是某大牛师兄说,这本书如果有老师带着或者同学组织讨论班读,还可以接受,纯粹自学没有必要。年轻人有时候好勇斗狠,闷头硬啃一本书,但缺乏交流,会效率低下,得不偿失,甚至打击自信。总之不同的环境下,要选择不同的书。

别的书我就不了解了,毕竟这东西我到现在也不会。

8 杂项

Athreya & Ney 有一本 Branching Processes,国内应该没出版,虽然有点老,但是对分支过程讲得挺全面,也不是很难。

Grimmett的Percolation(好像翻译叫《逾渗》)是国内常用的percolation入门书。

Jaynes的《概率论沉思录》,作者到死都没写完。内容比较杂,有很多自己的思考,风格很独特。

上初中的时候读了张远南的《概率和方程的故事》,里面有不少小故事,是不错的青少年科普读物。

单墫的《概率与期望》是一本高中数学竞赛小册子,应该是我第一次读到的正经的初等概率书,老实说写得还不错。

上篇末尾提到的角谷静夫(Kakutani)最出名的工作是Kakutani不动点定理 Kakutani fixed-point theorem。 后来约翰·纳什写了一篇两页的论文,把这个定理用在了博弈论中,然后得了诺贝尔经济学奖。


关于初等随机过程,有个学长讲的段子:说某个充满魔幻现实主义的地方,其历史就是个常返马氏链(从某状态出发,会无穷多次回到出发点)。你会被历史的车轮碾过,还没爬起来,发现历史在开倒车。




高质量延伸阅读


☞  哈尔莫斯:怎样做数学研究

☞  扎克伯格2017年哈佛大学毕业演讲

☞  线性代数在组合数学中的应用

☞  你见过真的菲利普曲线吗?

☞  支持向量机(SVM)的故事是这样子的

☞  深度神经网络中的数学,对你来说会不会太难?

☞  编程需要知道多少数学知识?

☞  陈省身——什么是几何学

☞  支付宝人脸识别的技术高大上,似乎是技术背后,的那个人做了场演讲

☞  曲面论

☞  曲面论(第二讲)

☞  曲面论(第三讲)

☞  自然底数e的意义是什么?

☞  如何向5岁小孩解释什么是支持向量机(SVM)?

☞  华裔天才数学家陶哲轩自述

☞  代数,分析,几何与拓扑,现代数学的三大方法论


登录查看更多
6

相关内容

概率论是研究随机性或不确定性等现象的 数学
小贴士
相关资讯
概率论之概念解析:引言篇
专知
4+阅读 · 2018年1月8日
干货 | 一文搞懂极大似然估计
AI100
6+阅读 · 2017年12月3日
数学不好能搞人工智能吗?
算法与数学之美
3+阅读 · 2017年11月27日
搞人工智能必备“数学库”
机器学习算法与Python学习
5+阅读 · 2017年11月20日
干货|通俗易懂地解释EM算法并举例说明?
机器学习研究会
12+阅读 · 2017年11月17日
酒鬼漫步的数学——随机过程 | 张天蓉专栏
知识分子
8+阅读 · 2017年8月13日
PCA的基本数学原理
算法与数学之美
5+阅读 · 2017年8月8日
大学数学不好,或许是数学教材的锅?
算法与数学之美
10+阅读 · 2017年8月1日
[有意思的数学] 参数估计
机器学习和数学
11+阅读 · 2017年6月4日
相关VIP内容
专知会员服务
86+阅读 · 2020年6月25日
专知会员服务
177+阅读 · 2020年6月24日
专知会员服务
106+阅读 · 2020年6月5日
机器学习速查手册,135页pdf
专知会员服务
209+阅读 · 2020年3月15日
《算法图解》258页pdf,像小说一样有趣的算法入门书
专知会员服务
206+阅读 · 2020年3月13日
台湾大学林轩田机器学习书籍《从数据中学习》,216页pdf
专知会员服务
41+阅读 · 2020年3月3日
相关论文
Emmanuel Bengio,Joelle Pineau,Doina Precup
8+阅读 · 2020年3月13日
Yixin Nie,Adina Williams,Emily Dinan,Mohit Bansal,Jason Weston,Douwe Kiela
4+阅读 · 2019年10月31日
Meta-Learning with Implicit Gradients
Aravind Rajeswaran,Chelsea Finn,Sham Kakade,Sergey Levine
7+阅读 · 2019年9月10日
Xiang Wang,Xiangnan He,Meng Wang,Fuli Feng,Tat-Seng Chua
8+阅读 · 2019年5月20日
Implicit Maximum Likelihood Estimation
Ke Li,Jitendra Malik
6+阅读 · 2018年9月24日
Approximability of Discriminators Implies Diversity in GANs
Yu Bai,Tengyu Ma,Andrej Risteski
4+阅读 · 2018年6月27日
Alexander Terenin,Måns Magnusson,Leif Jonsson,David Draper
3+阅读 · 2018年4月23日
Yongfeng Zhang,Qingyao Ai,Xu Chen,Pengfei Wang
21+阅读 · 2018年3月22日
Wenhu Chen,Wenhan Xiong,Xifeng Yan,William Wang
7+阅读 · 2018年3月17日
Pedram Hosseini,Ali Ahmadian Ramaki,Hassan Maleki,Mansoureh Anvari,Seyed Abolghasem Mirroshandel
5+阅读 · 2018年1月23日
Top