硅谷狂人隐忧：不受控制的AI比核武器还危险？

2019 年 9 月 6 日 王冠雄频道

最近，一段“机器人反踹人类”的视频走红了社交网络。工作人员将箱子砸到机器人头上之后，机器人灵活地旋转跳跃闭着眼开始踹人，然后捡起箱子砸向了镜头。结果大家都知道了，剧情很快反转，原来视频上的水印并不是著名的智能机器人公司波士顿动力（Boston Dynamics），而被恶搞写成了 Bosstown Dynamics 。

近年来正牌的波士顿动力公司，已经向我们展示了先进机器人的诸多技能，比如上楼梯、跳跃障碍、牵引大卡车等。但真想像视频中那样厉害，显然还有很长一段路要走。

不过，“机器人攻击人类”就如同一道达克莫里斯之剑，悬停在人类头顶上方。这则视频也在社交网络上引发了巨大的争议。

1.机器人威胁论

自从2016年alphago横空出世打败人类棋王，机器人威胁论就从科幻电影的题材，变成了大众的普遍隐忧。

人们都在担心，当奇点，也就是人工智能的智力超过人类的时候，人类社会可能会被机器人所掌控。

一些顶级企业家和科学家也支持这种观点。比如特斯拉、SpaceX的CEO，opneai前投资人埃隆•马斯克，就是人工智能威胁论的忠实拥趸。他不止一次给人类敲响过警钟：不受控的人工智能，比核武器还危险……

Hanson Robotics公司研制“最像人的机器人”的索菲亚，已经成为沙特公民，在面对“你想毁灭人类吗”这一问题时，也给出了肯定的答案。

当机器人能做的事越来越多，能力越来越强，人们也越来越担心类似“终结者”的机器人杀手会变成现实。奇点真的临近了？ “黑客帝国”真的要来了？要我说，这种担心大可不必。

2.机器人的乌托邦：阿西莫夫三定律

伊萨克阿西莫夫，20世纪最有影响力的科幻作家之一，在《我，机器人》一书中写到， “一开始机器人还不会说话，但最后他们却挺立于人类与毁灭之间……”

1942年，阿西莫夫首次提出了三定律：机器人不得伤害人类，或因不作为使人类受到伤害；除非违背第一定律，机器人必须服从人类的命令；除非违背第一及第二定律，机器人必须保护自己。

几十年来，阿西莫夫的机器人定律为人类对机器人的管控开了一个好头，也延伸出了许多科技公司的研发准则。

比如Google曾经为人工智能机器人提出5项安全要求，其中涉及到了很多现实问题：诸如如何让机器人在追求效率时避免连带损伤，或如何避免机器人在深度学习时对人类造成损害。

现实案例就是，机器人在追求最短路径时会不会撞到物体，或者机器人在学习做家务时会不会在“试验”过程中把房间搞得一团糟。

从这个意义上讲，机器人的行为控制权，还无可争议地掌握在人类手中。

3.真实的隐忧：不是通用智能

所以说，机器人意识觉醒，揭竿而起造反的情节还离我们有点远，与其担心遥不可及的通用智能及其不可控性，不如操心一下智能机械普及是否会对人类的人类的生活造成麻烦？

比起高度发达的类人智能，当下机器人所面临的黑客攻击和病毒传播才是最可怕的。曾经一个由东南大学与澳门大学师生组成的团队破解攻击了一个智能插座，甚至还用这个插座发了一条推特。这桩新闻听起来好笑，可是换个角度想想，如果这次攻击是来自一个不怀好意的黑客团队呢？插座的最大功能是提供电源，而在很多时候很多地方，电力就意味着生命。

另外，人工智能的应用正在取代大部分重复性工作，其中甚至包括了律师、行政、税务顾问等传统意义上的白领工作。

前两次工业技术革命只是对蓝领工人不利，贸易全球化和自动化技术让低技能的工人失去工作机会，而现在，技术革命也开始威胁那些办公室职位了。而且，人类几乎无法跟机器竞争同一个岗位，因为没它可靠，没它耐劳，没它便宜。由此带来的失业问题如何破解，所有国家目前都没有什么应对之法。 了解更多信息点击下方节目。

注：该文章源自爱奇艺原创自制科技脱口秀《雄辩科技show》全网首档竖屏科技脱口秀，由爱奇艺科技频道与知名意见领袖、新经济观察家王冠雄联合打造。打破科技的艰涩外壳，直击互联网底层逻辑。6月15日起，每周六12:00播出，敬请关注。

王冠雄，新经济观察家、意见领袖，首个竖屏科技脱口秀雄辩·科技show主讲人、十大自媒体（见各大权威榜单）。曾在阿里巴巴、360、搜狗、蓝港等著名互联网公司负责相关营销工作，参与4次IPO，横跨行业主要领域。每日一篇深度文章+科技热点快评，发布于微信、微博、头条、百度，各大门户及科技博客、媒体社群、短视频等30+全部主流平台，覆盖400万中国核心商业、科技人群。为FT金融时报、福布斯等世界级媒体撰稿人，观点被媒体广泛转载引用，影响力极大。

【我们的10万+和爆款文章】