CCCF专栏：应行仁 | 机器怎样才能有意识？

2018 年 2 月 22 日 中国计算机学会 应行仁

点击上方“中国计算机学会”轻松订阅!

来源：《中国计算机学会通讯》2018年第2期《专栏》

意识，没有一个客观的科学定义，难以观测认定，但他是每个人都能主观确定的真实。当你看到嫣红的桃花轻摇、缤纷飞舞，闻到阵阵清香，清晰地感受身在桃林暖风花雨中时，勾起昔日人面桃花相映，你的感觉和感触认定了自己是在熟悉的春日下。这经历和想象综合了各种感知的体验构成了意识，其中有个同一的心理上连贯的“自我”作为意识的主体，以内在的视角对世界做出反应。机器会有吗？

在心智研究上，人们向来把难解的意识问题留给哲学思考，科学只关心客观能够描述的智能。人工智能发展至今，机器在辨识和棋类博弈方面的智能已经与人相敌了，各种高超的智能机器喷涌而出，人们开始认真考虑机器能否形成自我，怎样才能具有意识的问题了。

智能的问题

人们对心智问题的早期研究，基本是内省的感悟，这个感悟构建的心理学独立于物理世界之外，表现为物质和心灵的二元论。到了20世纪，行为主义开始流行，不讲主观感觉，而只重视客观行为，观察人的外在表现和倾向，不在乎所谓的心理解释。1950年图灵在《电脑能思考吗？》的论文中，第一次提出“机器思维”的概念。他认为：通过电传终端与另一边进行对话，如果人们无法区分那边是机器还是人类时，就该承认这机器具有智能。这个测试称为“图灵测试(Turning Test)”。他的主张在认知科学上称为功能主义。计算机发明后，功能主义取代了行为主义，成为心灵和智能研究的主流。在功能主义旗帜下的计算主义，以实现功能的计算来窥探认知，至今仍是人工智能研究和认知科学的标准范式。

1980年代，当计算主义信心满满地研究智能、展望未来时，哲学家塞尔(John Searle)用“中文房间”思想实验提出质疑。塞尔形象地模拟专家系统的符号运算。不懂中文的他，躲在装有许多中文字片的房间里，收到外面传来的中文字条，只是按预订的规则挑选对应的中文字片作为回复，就能给人一种能理解中文、会思考作答的印象。计算机也是如此，它只是按规则搬弄字符，无论表现得多么神奇，其实都不是通过思考得出的。这是现代哲学中最著名的思辨之一，他针对的是能够通过图灵测试的机器智能，在哲学界和认知科学领域引起了广泛的讨论。

那时的人工智能是按照符号主义的思想来构建的。该思想认为，认知和思维的基本单元是符号，知识依据句法将符号形成符号串表示为命题，认知是按形式逻辑处理符号串的过程，对智能的研究聚焦于如何最有效地搜索知识库来求解问题。塞尔质疑心灵活动能够通过这样机械式的计算来描述。

他认为思考不是简单的逻辑运算，必须由具有内在因果性的机制和意向的动力来驱动。当问起“肉包好吃吗？”，大脑中涌现出关于肉包形象、香气和味道体验的回忆，在喜好意向的驱动下，组织成语言作答。而专家系统和中文房间，都不是从对肉包的感受为动机，只是分析句法，按照对照表找到最符合的字片来回复。虽然惟妙惟肖，但谈不上理解，更没有思想。

在之后的30多年至今，人工智能的主流已经从符号主义转到深度学习的联结主义机制上了。神经网络通过学习，获得了如同人类一样能够举一反三、由此及彼、联想推测的“感性”辨识决策能力。虽然让机器模仿人类，不是现在人工智能研究主流追求的目标，但技术的发展让它在更高程度的智能上与人真假难分，对人类自然语言的“听”和“看”也进入应用领域，通过图灵测试不是个问题。但图灵测试只与对应问答的功能有关，具有同样输出输入关系的功能可以由不同的内在机制来驱动。也许“中文房间”的符号主义操作过程并不适用于现在神经网络的智能机制了，但塞尔的核心思辨仍然在质问：人对问题的回答是有意识的，是由感受内容的因果性所驱动，机器会有意识吗？它真的理解所问的内容吗？

意识的问题

哲学家用僵尸(Philosophical Zombie)来形容在行为上与真人无异，却没有思想、意志和意识的物体。它的所作所为不由自主，只是被动的反应。自1980年起，针对“中文房间”的思辨，哲学家和科学家就不断地在学术刊物上争论。作为哲学家的塞尔强调其行为不是由意识驱动的，它是按照固定程序行事的哲学僵尸，只是在模拟能够思考。图灵测试无法区分哲学僵尸和由意识驱动行为的人类，他们的本质分歧在于：什么是意识？能否测定意识？

“意识”是哲学一直关注的最古老的问题，自笛卡尔起，哲学家开始以严谨的态度思考物质与精神的关系。科学研究的是客观的现象，而意识是主观的体验。看到一片光华，你感觉到了通红的颜色，火热的激情，可是客观的测量和物理知识告诉我们，这是频率400T~484THz的电磁波作用于我们的眼睛，但是在黑暗中的激情迷幻也能产生类似的感受。当你正在经受着疼痛，而一切身体检查都无法解释疼痛的存在时，什么更为真实？是根据科学检测的医生判断，还是自己切身的感受？当你沉静下来，专注内心默念几次：“我的脑中响起了这句话”，你用心体察，会感受到头脑里也响起这句话，而周边其实寂静无声。这些都是每个人都能真切感受到的体验，其外部物理测量却无法探知。

外在的检测难以探知主观的体验，在过去只能通过主观诉说得知。对同一种事物的主观感受因人而异，体验未必是真，诉说也许谬误，这些都无法符合客观的标准。所以近到二三十年前，意识的概念一直被科学界所排斥，甚至这个词在《自然》和《科学》稿件和基金申请中都是个禁忌。主观意识从根本上就被要求客观的研究无视，它远在以客观为基础的科学理论之外。

能被客观测量的事物性质叫属性，如“力”和“频率”，主观感觉到的性质叫感受(quale)，如“疼痛”“红色”“迷茫”等等，它是具有前因后果连贯的一个状态。感受是一切心理现象的基础，它是意识的体现。意识存在于主观世界的感受空间里，而客观世界是在物质属性的空间里。人在感官刺激下感受到一种体验，而在没有感官信号输入的梦境中，同样可以得到类似的体验，即使在清醒时也有幻听、幻觉和联想。客观世界的物质作用和主观世界的内心感受并非完全对应。现代神经生理学研究虽然已经细致地了解到机体经受伤害时，刺激作用于机体外周感受器，转变成神经冲动进入中枢神经系统直到大脑皮质兴奋的动力过程和化学物质，但是仍然无法确定如何产生主观意识上的体验。

当代哲学家戴维·查默斯(David Chalmers)把理解人类意识的问题分为“简单问题”和“困难问题”。“简单问题”是指理解大脑中产生知觉、记忆和行为的结构、功能和机制，“困难问题”是理解这些为什么会和意识相联系，以及意识的本质和来源。因此解决“简单问题”，对解决“困难问题”并没有帮助。主观和客观是基于对立假设的两种世界，不能以己方来肯定对方的基本设定，所以困难的问题永远无解。

作者介绍