重磅 | 李飞飞发文:机器的价值观就是人类的价值观,让 AI 更加人性化

2018 年 3 月 8 日 雷锋网 刘芳平


文 | 刘芳平

来自雷锋网(leiphone-sz)的报道


▲雷锋网注:图为李飞飞在 Google AI 中国中心成立时进行演讲

雷锋网按:当地时间 3 月 7 日,著名 AI 科学家李飞飞在《纽约时报》网站发表了题为“How to Make AI Human-Friendly?”(如何让 AI 更加人性化?)的文章。她表达了对 AI 发展的兴奋与担忧,并提出“以人为中心的 AI”发展道路,引导 AI 成为人类社会生活进步的一股力量。同时她反驳了机器无价值观的观点,她认为机器的价值观就是人类的价值观。

李飞飞是斯坦福大学计算机科学教授,领导斯坦福人工智能实验室,同时也是 Google Cloud AI 研究首席科学家。

文章中,她提到了 AI 正在对人类社会各行各业带来的巨大影响,“如果我们的时代确实在经历许多人所说的‘工业革命’,那么 AI 无疑是其中一个推动力”,她写道。

对于这样一个时代,李飞飞既兴奋又有担忧。“2000 年代当我还是一个计算机科学专业研究生的时候,电脑连清晰的图片边缘都无法判断,更不用说界线没有那么清晰的人脸了,大数据、算法和硬件计算力的发展,让 AI 从学术界的一个小分支成为经济生活中各个关键产业,包括制造业、医疗健康、交通和零售,的一个巨大影响力。”

李飞飞也表达了自己的担忧,“对 AI 的巨大热情让大家忽视了它可能对社会带来的影响”。她认为,尽管我们称之为“人工智能”,但其中的技术就是由人打造的,目的是像人一样运行并影响人类。所以,如果我们希望人工智能在未来的世界里扮演一个积极的角色,就必须由人类去对它进行正确的引导。

为此,李飞飞提出了“human-centered A.I.”(以人为中心的 AI),它包含三个目标,可以帮助引导人工智能的发展。



 “以人为中心的 AI”三大主旨


在李飞飞看来,“以人为中心的 AI”包含三大主旨,分别是:

一、让 AI 更好地反映人类的深层智能;

二、AI 应帮助人类变得更强,而不是替代人类;

三、确保 AI 在发展过程中对人类的影响得到正确的引导。

第一点所表达的,其实是 AI 目前仍然做不到的一些情况。李飞飞解释道,虽然计算机视觉在近几年取得了长足的进步,但它在某些方面还没有办法跟真正的人相比。人类对环境的感知是非常情境化的,可以在识别明显的目标与细微的特征上取得平衡,相比之下,机器人的感知仍然较为狭窄。

她举了一些例子,比如一个算法很好地将图片总结为“一个人骑一匹马”,但却没有指出图片里是一个铜像的事实。还有,同样的算法可以描述一张图的内容是“斑马驰骋在大草原上”,这是对的,但它却完全没有提及整张照片的艺术美感。而人类显然不是如此。

李飞飞认为,这说明人类感知世界的一个重要部分仍然没能被算法所模仿,而如果我们要真正的让 AI 服务于我们的需求,又怎能忽略这些更加“模糊”的领域呢?

如何让 AI 更加敏感并不是一件容易的事,她认为解决方案很可能会超越计算机科学领域,这意味着程序员们将需要学习如何与其它领域的专家进行更多的合作。

这种合作代表的是 AI 回归本源。60 多年前,今天的深度学习算法开始被创造时,可以追溯到两位神经科学家 David Hubel 和 Torsten Wiesel 的发现,他们发现了猫的视觉神经元对刺激作出的层级反应。

在李飞飞看来,这种合作将为机器智能带来更丰富的基础,让最终的技术在连接和交流方面更加自然。

第二点,帮助而不是替代人类,实际上也是许多 AI 大牛所提到的观点。李飞飞举了 AI 在手术中的应用这个例子,她认为 AI 的目的不应该是将程序完全自动化,而是通过软件和硬件的结合帮助外科手术专家提高能力,比如灵活性和适应性,并防止人类的错误、疲劳和不专注带来的不良影响。

又比如在老年护理领域,机器可以自动监测药物剂量,进行安全把关,帮助人类减少花费在重复性工作上的时间,从而把更多精力放在精神关怀上。从大的方面来看,AI 替代了重复性、危险性的工作后,人类将可以更专注于创造性和感性的部分。

但即便如此,李飞飞仍然不否认 AI 对工作岗位带来的威胁。所以就有了第三个目标。

第三就是应该以人为中心对 AI 的发展予以正确的引导。对工作岗位的忧虑只是一个开始,李飞飞还提到了很多方面的问题,包括机器学习领域对少数族裔的偏见,AI 对数据的渴求与隐私保护之间的紧张关系,以及对国际地缘政治上的影响。

李飞飞认为,应对这些挑战需要来自人类社会中最大的一些组织的承诺,例如,大学可以让计算机科学和传统的不相干学科如社会学建立起联系;政府可以努力打造更好的计算机科学教育,特别是对女性和少数族裔。

李飞飞表示,许多人说机器并没有价值观,但实际上,机器的价值观就是人类的价值观。“以人为中心的 AI”发展道路,意味着机器可以不用成为人类的竞争对手,而是成为我们的伙伴,帮助我们生活得更好。

最后,她写道,“不管我们的技术变得多自动化,它对世界带来怎样的影响——是好还是坏——都是我们自己的责任”。

雷锋网注:本文参考来源为 纽约时报英文网站

- END -

雷锋网诚招编辑、运营、兼职外翻等岗位

详情点击招聘启事


  ◆  

推荐阅读



这是一条你寻找已久的广告


花1秒钟扫二维码,参加一场顶级“AI+安防”峰会




演讲嘉宾:中国工程院院士、安防巨头首席科学家、明星AI公司高管、学术大师、IEEE Fellow等。


3月31日,我们深圳见!

登录查看更多
1

相关内容

李飞飞,女,1976年出生于北京,长在四川,16岁随父母移居美国新泽西州。 2015年12月1日,入选2015年“全球百大思想者”。2018年3月,获“影响世界华人大奖”。 现为美国斯坦福大学教授、斯坦福大学人工智能实验室与视觉实验室负责人、谷歌云人工智能和机器学习首席科学家,斯坦福以人为本人工智能研究院共同院长。
《强化学习》简介小册,24页pdf
专知会员服务
263+阅读 · 2020年4月19日
专知会员服务
121+阅读 · 2020年3月26日
报告 | 2020中国5G经济报告,100页pdf
专知会员服务
97+阅读 · 2019年12月29日
2019 年,最值得回顾的十大 AI 学术观点
AI科技评论
6+阅读 · 2019年12月31日
Hinton号召AI革命:重头再来;李飞飞等赞成:深度学习不是唯一
李开复:听AI大佬吐槽真实的人工智能
算法与数学之美
4+阅读 · 2018年8月26日
李开复为何说年底人工智能泡沫要破?
数据猿
4+阅读 · 2018年2月5日
【人工智能】人工智能在深度学习领域的前世今生
产业智能官
5+阅读 · 2017年11月24日
【人工智能】重磅:中国人工智能40年发展简史
产业智能官
7+阅读 · 2017年11月12日
最可怕的不是被机器淘汰,而是……
全球创新论坛
18+阅读 · 2017年10月28日
Arxiv
26+阅读 · 2018年9月21日
VIP会员
相关资讯
2019 年,最值得回顾的十大 AI 学术观点
AI科技评论
6+阅读 · 2019年12月31日
Hinton号召AI革命:重头再来;李飞飞等赞成:深度学习不是唯一
李开复:听AI大佬吐槽真实的人工智能
算法与数学之美
4+阅读 · 2018年8月26日
李开复为何说年底人工智能泡沫要破?
数据猿
4+阅读 · 2018年2月5日
【人工智能】人工智能在深度学习领域的前世今生
产业智能官
5+阅读 · 2017年11月24日
【人工智能】重磅:中国人工智能40年发展简史
产业智能官
7+阅读 · 2017年11月12日
最可怕的不是被机器淘汰,而是……
全球创新论坛
18+阅读 · 2017年10月28日
Top
微信扫码咨询专知VIP会员