易图秒懂の连接主义诞生

2017 年 8 月 19 日 数萃大数据 史春奇

【数萃大数据】公众号又开办了一个新栏目,之后我们每周末会为大家分享各种趣闻趣事名人好书

我们将连续转载史春奇老师高品质的推文。感谢史春奇老师的授权以及对数萃大数据学院的大力支持!



我们在“易图秒懂の神经网络潜行-CNN前生" 和 “易图秒懂の神经网络潜行-RNN前生" 里面,简述了神经网络潜行的发展。”易图秒懂の符号主义诞生“里我们提到符号主义发展后, 诞生了认知科学新的分支。 随着认知科学的大佬们开始注意神经网络, 在学习领域, 符号主义正式步入新阶段。 


前言


Twitter上有个图片对连接主义符号主义很形象的刻画,如下, 看上去符号主义站稳了脚跟, 但是链接主义开始挥舞起拳头。 


基于规则的系统为代表的符号主义, 正向以神经网络,统计学习为代表的链接主义转变, 同时以符号表示的表象主义向嵌入、进化、生成论方向发展。 

当然, 讨论起这些主义,本身就是已经被认知科学影响了。由此可见认知科学发展所带来的变化。  



一图抵千言


连接主义的代表是Rumelhart, 他和MIT的教授McClelland, 两人搞了一个PDP的杂志, 并行分布处理的杂志。 虽然是并行分布的杂志, 但却是连接主义的桥头堡。 Rumelhart很不简单, 他是美国排名超前的心理学大师Estes的学生。 他所在的实验室CBC实验室更不简单,算得上是认知主义的一个源头点。 



说到CBC实验室, 首先它的创立者是美国另外一个排名很前的心理学家Mandler。 接着,它后来的一把手是因发现DNA双螺旋结构而获得诺贝尔奖的Crick。 Crick受到了Hopfield网络的影响,为了这个实验室, 甚至在Natural撰文鼓吹神经网络。 当然因DNA双螺旋结构获得诺贝尔奖的Watson也不得了, Watson的老板Luria也是诺贝尔获得者,研究噬菌体。 


辅助Crick的是认知学的另外一个大佬Norman, Norman后来开创了User-Centered Design, 他做到苹果的高级技术部门的VP, 对苹果公司的发展影响巨大。 



如果你对Rumelhart还是不熟悉, 那么我再说几点, 他是机器学习大牛Jordan的导师(参考”乔丹上海行“)。另外,他是领头再创造BP算法的三个人的领袖。 另外一个是CBC实验室的Hinton,还有一个是发明RTRL算法的Williams。 某种意义上正是Rumelhart对BP算法的新的总结发表。 才让连接主义开始重新成为人工智能的主流。 


Rumelhart 培养的学生都很赞, 他另外一个学生Glushko, 成立了好几个XML相关的公司。卖了几个后有钱了便和老婆成立了个基金会。 这个基金会在Rumelhart去世后建立了Rumelhart 大奖来奖励对连接主义有贡献的人。 第一次就奖励给了Hinton。 


我们知道Hinton本人就是认知科学家Christopher的学生。 所以总得来说,连接主义兴起,是受到了认知科学, 生物学发展, Hopfield网络的影响下的一次重新冲击。 


小结

本文描述了以Rumelhart为代表的连接主义,重新在人工智能的舞台上绽放光芒!当然离不开Crick的英明的领导!










欢迎大家关注微信公众号:数萃大数据








课程公告

网络爬虫与文本挖掘培训班【宁波站】

时间:2017年9月23日-25日

地点:维也纳国际酒店(机场店)

更多详情,请扫描下面二维码






登录查看更多
2

相关内容

符号主义学派认为人工智能源于数学逻辑,人类认知和思维的基本单元是符号,而认知过程就是在符号表示上的一种运算。符号主义致力于用某种符号来描述人类的认知过程,并把这种符号输入到能处理符号的计算机中,从而模拟人类的认知过程,实现人工智能。符号主义的发展大概经历了几个阶段:推理期(20世纪50年代–20世纪70年代),知识期(20世纪70年代—-)。“推理期”人们基于符号知识表示、通过演绎推理技术取得了很大的成就;“知识期”人们基于符号表示、通过获取和利用领域知识来建立专家系统取得了大量的成果。
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
134+阅读 · 2020年7月10日
最新!Yann Lecun 纽约大学Spring2020深度学习课程,附PPT下载
2019中国硬科技发展白皮书 193页
专知会员服务
85+阅读 · 2019年12月13日
【BAAI|2019】用深度学习模拟原子间势,王涵  (附pdf)
专知会员服务
18+阅读 · 2019年11月21日
【课程推荐】 深度学习中的几何(Geometry of Deep Learning)
专知会员服务
59+阅读 · 2019年11月10日
EM算法的九层境界:​Hinton和Jordan理解的EM算法
算法与数学之美
5+阅读 · 2018年7月31日
ISI新研究:胶囊生成对抗网络
论智
18+阅读 · 2018年3月7日
【人工智能】重磅:中国人工智能40年发展简史
产业智能官
7+阅读 · 2017年11月12日
A Survey on Edge Intelligence
Arxiv
52+阅读 · 2020年3月26日
Arxiv
6+阅读 · 2019年3月19日
A Probe into Understanding GAN and VAE models
Arxiv
9+阅读 · 2018年12月13日
Arxiv
24+阅读 · 2018年10月24日
Arxiv
8+阅读 · 2018年2月23日
VIP会员
相关论文
Top
微信扫码咨询专知VIP会员