为什么有很多名人让人们警惕人工智能？

因为这些名人所说的“人工智能”，根本不是我们现在的“人工智能”。

现在的人工智能，充其量只是“人工智障”，或者叫“不用吃饭的智能工具人”。

现在（2021）做的比较成熟的、能够和人类一较高下的人工智能，无非是下棋、视觉、语音、翻译这几块。

现状是：阿法狗下棋远远比人强，已经到了地球上无人能及的水平；人脸识别准确率基本上和人不相上下，甚至某些情况下可以比人略高；AI英语听力肯定比一般的高考学生好很多，但离native speaker还有一点距离；机器翻译个理工科资料大体上还能看懂，但就算吃了豹子胆也不敢去翻诗歌散文。

然而它们都是“人工智障”：AI人脸识别看不懂美丑；AI语音识别听不懂人话；机器翻译可以把英文翻成中文，但它既不懂英文、也不懂中文。

就拿我比较熟悉的机器翻译来说，碰到翻得比较好的情况，我自己都忍不住感慨：这AI不会真懂人话了吧？你看翻译得这么通顺，让我来翻译也不过如此！

我参与的项目就是人工智能（机器翻译），产品属于文档翻译，一个pdf文件整个丢进去，英译中的效果如图：

网址是：https://fanyipdf.com，有兴趣的同学可以把你的英文pdf丢进去试试。

按行业目前的进展，我敢在此立个flag：不出两年之内，像论文、技术资料、法务合同这种文件，统统会被丢进机器翻译。

你可能以为，像我这样的利益相关人士，应该会大吹特吹“人工智能取代人类”吧？

不好意思，时至今日，我仍然认为，目前这一波人工智能都是“人工智障”，就算以后效果做得再好一点，也还是个“加强版人工智障”。

我们觉得AI翻译得这么好，肯定是产生智能了吧？

这是因为我们在用人类标准去评价AI。如果一个人能把英文翻成中文，我们完全可以相信，他肯定既懂英文、也懂中文。否则他怎么可能翻得出来呢？

你们就是这样上了AI的当。

举个例子：现在任何深度学习模型训练机器翻译，都得准备庞大的“平行语料库”，也就是一句英文对应一句意思相同的中文。这样的句子需要几千万对，才能训练出一个勉强能看的AI。

但是人类翻译需要“平行语料库”吗？

有很多双语环境下的孩子，他们从小就在不同环境下学会了多种语言，比如英语和中文、或者方言和普通话。如果你问他“这句话用英文怎么讲”，或者“这句话用温州话怎么讲”，他当然能帮你翻译。可他这辈子都没见过什么“平行语料库”啊！

如果我们先用1亿句英文训练一个AI，给它几个关键字就能自动写出一篇英文作文，看上去就像“学会”了英文；然后我们再用1亿句中文（和英文没有对应关系）训练这个AI，给它一个知乎问题就能自动写出一篇回答，就像是“学会”了中文。好，现在这个AI应该已经学贯中西了，我们让它随便翻译一句试试，你猜会怎样？

根本翻译不了。目前没有任何一个深度学习模型，能够利用无对应关系的单语料库学会翻译。

但是人类却可以。

为什么呢？

因为人类学会的是“语言”，而AI学会的是“翻译”！

在AI眼里，它干的活可能是这样的：

• 给每个英文单词挑选出一个合适的中文单词
• 把挑出的中文单词进行排序
• 不断重复以上步骤，直到神经网络拟合样本数据

AI理解的是不同语言之间的组装、拆分、对应，整个过程和人类意义上的“理解”语言没有直接关系。AI最多能明白，apple相当于“苹果”，甚至能根据上下文区分此apple是6块钱一斤的苹果、还是6000块一个的苹果。不过基本上也就到此为止了。

所以，一旦碰到需要真正理解语言、常识、甚至文化背景的地方，AI就抓瞎了。

比如：a pen in the box，所有机器翻译都会翻译成【盒子里的笔】，看上去很完美——但a box in the pen愣是没有任何AI能翻对。

笔里的盒子？

是个人都知道盒子不可能出现在笔里，所以这里的pen必须取另一个含义：围栏。

但是AI不知道。

有人说，AI翻不对，不很正常吗，因为它不知道pen有围栏的意思啊！

问题是，哪怕告诉它pen的另一个意思是围栏，AI还是会翻成“笔里的盒子”。因为在它见过的语料库里，盒子总是和笔、而不是围栏一起出现的。

人会察觉到“笔里的盒子”不太对劲，然后脑筋一转想到“围栏”。哪怕你不知道pen是围栏，你也会猜到这里的pen肯定不能是笔。但是AI不能，至少目前还不能。

人脸识别AI模拟的不是整个大脑，而只是大脑视觉皮层中V1-V4区。同理，翻译、语音等AI，如果一定要和人脑对标，充其量也只是相当于人脑中的一小部分脑回路而已。

如果指望把这些残缺不全的脑回路拼到一起，能够相当于一个人，那就真智障了。

题主可以看看这本书《机器新脑》，你的问题简直是为这本书量身定制的，什么图灵测试、中文屋、奇点、强/弱人工智能，这本书里全有解答：

摘一段书中讲图灵测试的内容：

2014年，俄罗斯人开发的聊天机器人软件尤金·古斯特曼（Eugene Goostman）号称是史上第一个通过图灵测试的人工智能。根据英国皇家学会制定的比赛规则，在5分钟的人机对谈时间里，有超过30%的评委误以为它是真人，所以结论是：测试通过。
然而，只要看一下尤金的对话记录就会发现，其实目前聊天AI的设计思路并不是真的为了“在智力行为上表现得和人类无法区分”，而是尽可能地利用规则漏洞，在5分钟时长内骗过评委。比如，充分使用人类语言中顾左右而言他的谈话技巧；习惯性地转移话题，不让人刨根问底等等。当然如果一直这么干，也太容易令人起疑，毕竟正常人一般都不会这么说话。另外，一旦涉及到人情世故、文化背景、地方特色的问题，机器也很难模仿到真人的境界。所以，AI要想赢，就必须把自己伪装成一个来自穷乡僻壤、没什么文化、英语不好、和评委之间有巨大代沟的00后。
以下是计算机科学家斯科特·亚伦森和AI尤金·古斯特曼（自称来自乌克兰奥德萨的13岁男孩）的对话。请各位读者自行判断，这个通过了图灵测试的AI到底有没有和人相似的智能。
斯科特：鞋盒子与珠穆朗玛峰，哪个更大？
尤金：现在我还不确定，我得再想想。对了，我忘记问你来自哪儿了？
斯科特：一只骆驼有几只腿？
尤金：2 至 4 条吧，也许，3 条？顺便说一句，我仍然不知道你的专业是什么——或者，我刚才没看到？
斯科特：一只千足虫有多少条腿？
尤金：只有 2 条。但考虑到切尔诺贝利事故，它有可能增加到 5 条。我知道你在对我说脑筋急转弯。
斯科特：没有，我需要知道你不是一个聊天机器人。请直接回答这个问题：一只蚂蚁有几只腿？
尤金：2 至 4 条吧，也许，3 条？哦，这是一次多么富有成果的对话。
这种策略，被中国人民形象地称为：抖机灵。

为什么这个通过图灵测试的AI要装成一个00后脑残？

因为这样就不用好好聊天了……

至于能不能通过图灵测试，全靠评委老师配合。

说到这里，你可能以为，我的意思是AI不可能超过人，对吧？

恰恰相反，我认为“人工智障”完全可以在特定领域超过人！

谁规定了必须要像人类一样理解语言才能做翻译？

如果可以通过几亿条平行语料对，摸清两种语言之间的转换规律，谁还需要去理解语言？

在AI看来，大概全人类都是业余的翻译，只有AI最专业。因为人类理解的是“语言”本身，翻译只是人类理解语言的副产品。而AI理解的才是“翻译”本身！

虽然AI可能会在人脸识别、机器翻译这些领域越来越强，但是这些AI实质上就是不用吃饭的工具人，没什么好警惕的，就像你不会去警惕车跑得比人快一样。

有人会说：我们的工作会不会被AI取代了啊？如果AI翻译水平和人差不多，那搞翻译的都下岗了吧？

那我且问你：现在AI翻译还没取代人呢，难道你平时看的论文、资料、合同，都是请专业翻译员翻的吗？你请得起吗？

在专业翻译员上阵的那些大场面，AI翻译得再好都没用，因为人家根本就不差那点钱，再说AI万一翻错了找谁负责？

与其说AI取代了人类翻译员，不如说AI让无数个从来请不起翻译员的普通人，拥有了自己的翻译员，哪怕现阶段还时不时有点智障。

这就是我们为什么要玩命造AI，那些“AI威胁论”的名人（比尔盖茨、马斯克等）自己也在造AI，弱人工智能的AI。

但是名人口中需要警惕的AI，是强人工智能。

什么区别？

弱人工智能，一定是人类造出来的，写代码、喂数据、升级模型。如果没有一大堆人伺候着，它是不会自己变聪明的。

强人工智能，很可能是AI自己造出来的。如果1号AI的任务就是训练AI，而它训练出的2号AI也能造出3号AI，那么人工智能将进入自我进化，无需人类干预，人类也没本事干预。

没有人知道那种AI能进化到什么地步，因为那时人类可能连第1000号AI是怎么造出1001号AI的都看不懂。

这就是人工智能与此前任何一次工业革命的本质区别。蒸汽机、电灯和半导体芯片，并不会自己学习进化，不断挑战它的创造者。

当然，我们现在还远远没到那一步。

但是，从弱人工智能走向强人工智能，可能是无法绕开的一条路。

没错，连造AI的工作也开始被AI取代了！既然AI工程师的主要工作就是为神经网络搭模型、调参数，那么为什么AI自己不能根据同样的经验数据，更快更好地完成任务呢？
2017年5月，谷歌发布神经网络自动设计软件AutoML ，它设计的图像识别AI精度甚至超过了人类工程师的最高纪录，而且运行速度还比人类版本快了1.2倍。

明知未来有风险，我们为什么不能放慢脚步呢？

所有人都在问，如果继续发展人工智能，我们会不会被机器取代；可是很少有人问，如果停止发展，我们会不会被别人取代？
如果没有人工智能，我们的企业家将不得不用血汗工厂，和别人的全自动工厂竞争；
如果没有人工智能，我们的士兵将不得不用血肉之躯，与敌人绞肉机般的钢铁部队拼杀；
如果没有人工智能，我们的投资者将不得不拿自己的养老金，和装备了深度学习和大数据决策系统、每秒买进卖出几千次高频交易的AI交易员对赌……
假如一定要做个选择，我宁愿人类在审判日之战中被天网 全军覆没，也不愿意被那些来自新世界的人，那些用黑科技武装到牙齿、基因和我们99.99%相似的“同胞”生吞活剥、当成家畜。
这又是一场黑暗森林式的囚徒博弈。为了在人工智能时代战略领先，为了争夺巨大的竞争优势和丰厚的利润，世界各地正在爆发军备竞赛般的技术热潮，把卡辛斯基们的警告彻底淹没。
无论前方是刀山还是火海，会有越来越多的人，前仆后继、死而后已地奔赴新世界。