专家学者研讨：人工智能会让人类成为濒危动物吗？

来源：科学网

摘要：人工智能的发展，远不是单纯的技术问题，它带来很多需要深入分析、求解的人文挑战。

“人工智能的发展，远不是单纯的技术问题，它带来很多需要深入分析、求解的人文挑战。”5月19日，中国工程院院士、清华大学教授吴澄在“两界联席会议”上说。

在这次会议上，来自自然科学界和社会科学界的专家学者，试图在培育壮大人工智能产业，抓住人工智能发展机遇的同时，推动对人工智能伦理风险和社会挑战的前瞻性应对研究。

太阳微系统公司联合创始人、计算机科学家比尔·乔伊曾说，在21世纪，人类拥有的最强大的三种技术——机器人技术、基因工程技术、纳米技术，正在使我们自己成为濒危动物。此言一出便引起轰动。

那么，人工智能会让人类成为濒危动物吗？人工智能会给人类带来哪些远虑近忧？人类又该如何应对？

“人工智能应用于社会、经济、工业、生活的范围会越来越广，人类进入智能自动化已经不远了。”吴澄预计，未来人的社会分工将面临巨大的变化，因为机器学习用于自然语言理解、图像识别、数据处理等方面已经超过人类的水平。

如果列出一份“人类剩余优势清单”，那么，在中国社会科学院哲学研究所研究员段伟文看来，这份清单上现在只剩下“创造力与变通性”“社会知觉”“谈判艺术”和“论证能力”。

“未来，虚拟现实成瘾、辨别现实障碍、身份认同焦虑、机械移植排异、超智能精神失常、机器人恐惧症、自我刺激成瘾、寿命延长倦怠等，都有可能成为困扰人类的疾病。”段伟文说。

对于目前存在的人工智能悲观论，吴澄表示：“我们离‘机器人当政’的那一天还早，人类自身有能力引导人工智能的健康发展。”

在吴澄看来，人工智能是机器对人脑思维、认知功能的模拟。从目前来看，人工智能研究的主流还停留在“弱人工智能”的范畴，这些研究对人类有益无害。

与此同时，引导人工智能的健康发展已被提上日程。2017年1月，为了规范人工智能技术研发，霍金、伊隆·马斯克、德米斯·哈萨比斯等在内的近四千名各界专家发起并签署了“人工智能23条”倡议，从顶层规划上引导人工智能的健康发展，规定了研究目标、研究资金、科学政策、研究文化等23项内容。

如果说对人工智能发展的“远虑”只是来自想象，那么，现实生活中，人工智能难免没有“近忧”，如数据保护、失业保险等。

段伟文表示，现实中，数据智能已经让社会出现了“数据即存在”的状态，无论人主动与否都是数据的贡献者，社会变成了解析社会，而解析结果很可能带来歧视和不平等。人工智能的发展要永远尊重人类情感，最大限度地尊重人类的隐私权。

“人工智能生成物的权利归属、人工智能作为法律主体的界定等，都推动人类重新审视现有法规。”北京理工大学教授马宏宾说。

此外，斯坦福大学一位教授也预计，美国注册在案的720种职业中，将有47%被人工智能取代。“人工智能的发展，会淘汰一部分落后生产力，也会影响众多从业着，这是需要政府及早制定相应的政策。”吴澄说。

“对于人工智能及其发展程度的判断，人工智能专家和普通大众之间可能有巨大差距，人工智能不同子领域的专家也会有不同看法。在谈论人工智能的未来和潜在风险时，我们还需要工业界、政府、哲学家、法学家以及更大范围的学术共同体的广泛参与。”北京大学哲学系副教授王彦晶说。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”