4月23日，认知科学界的领军学者刘晓力，做客思勉高研院第六场“前沿技术的人文维度”高端论坛

随着AI应用领域利好消息的频频出现，人们对未来人机共存的世界既憧憬又疑惑，能否如一类学者而言，AI与人类共生共在？如果那样的话，如何让AI成为具有道德的主体而不侵犯人类的利益？从学理而言，这就离不开第二代认知科学的进一步发展。在此基础上，认知科学又是否可以携手统管人类意义世界的哲学学科共同努力呢？

4月下旬，带着这些前沿问题的疑惑，中国人民大学二级教授、中国人民大学哲学与认知科学交叉平台首席专家刘晓力，造访华东师大思勉人文高等研究院，以《哲学与认知科学的双向挑战》为题，进行了思勉高研院第六场“前沿技术的人文维度”高端论坛报告。刘晓力围绕着智能机器的情感问题，考察了智能机器的伦理维度，用实例说明了哲学与认知科学相结合的可能性。

前沿话题吸引了不少思勉师生前往

挑战之一：机器意识的三大落地难题

欧洲的AI通过深度学习，能模仿巴赫调性每日作曲500首，但艺术家“判刑”：它不能辨别艺术的美；AI通过外骨骼将人的臂力从50公斤增加到300公斤，但工程师感叹，在焊接等灵巧度上，机器人比人还差很远。

面对这些具体实例中的遗憾，深耕认知科学20余年的刘晓力指出，人工智能目前正面临三类“落地难题”。其一，AI的语义落地问题：机器不理解符号语言的意义，符号的语法规则不能直接反映其与外部世界的语义关系，只能依靠程序设计者的解释获得；其二，AI的物理落地问题：机器不理解外部物理世界的意义，侧重抽象符号的人工智能缺乏与外部世界直接发生关系的物理结构，例如感知运动系统；其三，AI的情感落地问题：机器不理解人类社会行为的价值意义，尤其是人工智能尚不能自主地辨别是非善恶，更无法成为“人工道德主体（artificial moral agents）”。“这三种难题构成了当前人工智能发展的瓶颈，亦是人工智能始终无法摆脱无心、无情、无实践推理的原因。”

刘晓力认为，认知科学最为瞩目的应用场景莫过于人工智能。反思学科的发展中的疏漏，第一代认知科学视域下的人工智能注重抽象的符号计算与推理，忽视了机器在环境中的感知与行动能力。第二代认知科学的兴起，虽然借助人工神经网络和深度学习，AI进入“统计计算”的新时期，却依然不得不面临各类棘手情形，例如人工智能仍然停留于大样本被动学习训练、依赖于大量人工标注、数据缺乏客观性与公正性、机器视觉处理缺乏稳定性，以及无法预测未知数据等。

虽然补了缺却又掀开另外的潘多拉的盒子。

刘晓力指出，克服与超越认知表征难题、解释鸿沟与机器意识屏障，是遏止潘多拉盒子里继续飞出负面魔力的有效对策。这既需要不断反思第一代认知科学、重估第二代认知科学，也需要依赖于哲学与认知科学的通力合作，即把哲学的前沿问题意识和批判性思维，与认知科学经验研究方法相结合。在此过程中，哲学家与认知科学家应当携手并进。

刘晓力曾在《中国社会科学》《光明日报》等刊物多次发表文章进一步探讨哲学与认知科学如何交叉融合

挑战之二：智能机器如何才能成为人工道德主体？

随着“奇点问题”之争的热议以及Alpha Go的问世，通用人工智能（artificial general intelligence）的发展与人类未来之间的关系日渐为世人所瞩目。构建可以信赖的AI发展伦理框架，成为了各国政府与科技界的首要任务。

海外学者韦鲁吉奥（G. Veruggio）提出“机器人伦理学”（robethics）概念，瓦拉赫（W. Wallach）与艾伦（C. Allen）倡导结合“自上而下”与“自下而上”的人工道德主体进路，刘晓力追问人工智能在满足何种条件之后，才能成为人工道德主体？她给出的答案是：情感触发（emotional trigger）、信用赋能（credit assignment）与实践推理（practical inference）。

具体来说，人工智能体若想具有道德维度，得满足下述三个条件：第一，人工智能体可以在情感的触发下，形成道德敏感性，并能基于情境的知觉经验而获得信念，进而采取有意图行动；第二，人工智能体只要通过少样本的学习，便可获得更多的学习成果，且有寻求事物一般模式以进行因果推理的信用赋能能力；第三，人工智能体具有反思自身行为的元认知和反事推理能力，能够依据（自主的）深度学习进行自我训练，实现预测与规划，主动地通过实践推理达成自我目标。

当前流行的各类AI虽具有一定的行动能力，却并不是严格意义上的自主道德主体，因而其道德责任也只能是“分布式的”，由设计者、制造者以及机器操作者等共同承担，说到底，依然归属于人类自身。可以预见的是，在未来，亦会出现人机交互的共生道德主体，或是完全满足情感触发、信用赋能与实践推理的人工道德主体。不过彼时，我们更需要审慎地对待这把“达摩克里斯之剑”，围绕着道德主体的自主系统边界以及相应的风险进行理论研究和现实评估。

瓦拉赫与艾伦所著的《道德机器》中基于人类道德判断和伦理的本质，第一次深入探讨了人类在设计具有道德判断能力的机器人的漫漫征途上所面临的巨大挑战

反思认知科学60年，第二代认知纲领对传统计算表征的修正

人工智能的运用场景，使得认知学科60年的发展历程进入更广泛的非专业人士视野。刘晓力澄清，从概念范畴看，广义上的认知科学由哲学、语言学、心理学、脑神经科学、人工智能、人类学几大学科构成，是处在前学科时期的巨无霸学科群，至今还未形成统一纲领和科学范式；狭义上的认知科学则是一种理论假设，即将认识看作信息处理过程对内在心理表征的一种计算，这也被作为第一代认知科学的研究纲领。由于20世纪80年代开始，这一纲领受到多方面挑战，最近30余年逐渐形成基于涉身性观念的第二代研究纲领4EC。随后，生态（ecological）认知、情感（emotional）认知、演化（evolutionary）认知、适应（exaptative）认知逐渐进入探索视野，学界开始迎来了5E认知（以Shaun Gallagher为代表）、7E认知（以Mark Johnson为代表）的时代。

总结而言，无论是4E认知、5E认知还是7E认知，它们均认识到了身体、生命、日常生活、社会和文化之于认知的必要性和重要性，这是第一代认知科学所极度欠缺的。

刘晓力是反思学科发展的学界代表，她认为，经过60余年的发展，硕果累累的认知科学开始聚焦于学科自身，迈入了“自我反思”的元勘时代。反躬自省认知科学。以此为治学出发点的她强调，“我进入认知科学哲学20年有余……，一直对认知科学基础假设进行反思，至今立场没有根本变化。”

认知科学内部错综复杂的关系（来源：认知科学学会网站）

第二代认知科学家新的聚焦：身体和行动

理论历来为实践开道。

第二代认知科学尚处于“进行”之中，如何超越狭义认知科学观，创制一个站得住脚的认知科学理论成为关键问题。诚如派利夏恩（Z. W. Pylyshyn）所强调的：认知科学唯有自主地建立在一套特定词汇和统一原理之上，才有望成为一门真正学说。于是，“表征”与“计算”成为了认知科学研究的关键词。可是，倘若过分地把心理表征收束于“离线认知”之上，难以解决“表征的规范性”、“表征的非必要性”和“表征知识的无穷倒退”这三重难题，亦忽视了知觉、想象与情感等体验性的“在线认知”。

为此，第二代认知科学家们纷纷建言，给出了多样化的解决策略，它们包括但不限于：以吉布森（J. J. Gibson）为代表的生态心理学方案；以奥立根（O’ Regan）与诺伊（A. Noё）为代表的感觉运动知觉理论；以瓦雷拉（F. J. Varela）、汤普森（E. Thompson）和罗什（E. Rosch）为代表的生成认知立场；以克拉克（A. Clarck）为代表的延展认知理论；以达马西奥（A. Damasio）为代表的“生命之心（mind in life）”思想及其自创生成主义（autopoietic enactivism）；以加拉格尔（S. Gallagher）为代表的新生成主义（neo-enactivism）。第二代认知科学家的工作有效地弥补了计算表征的三重局限，以更为中肯的态度和更具现实感的方式，切入了人类意识的腹地。

加拉格尔（右二）曾做客第124期文汇讲堂 《全球视域中的中国哲学——从第24届世界哲学大会说起》

面临挑战的解释鸿沟：意识不能全部用物理解释怎么办？

人类意识的涌现是否可以被还原为物理的解释呢？在信奉科学主义的近代，人们奠定的那套学科范式正在遭到挑战。而意识倘若无法解构和还原，对于设计AI的挑战似乎又增加了一层。

所以，除了探寻心灵表征的本性之外，认知科学还面临着物理因果机制能否完全穷尽意识经验的质疑。换言之，当我们掌握了所有的物理学知识，或许也无法充分阐明意识的现象体验或感受性质时，该怎么办？正因为此，认知科学家们需要直面：在因果解释与现象解释之间，出现了一条泾渭分明的解释鸿沟。

跨界的努力纷至沓来。

心理学家巴尔斯（B. J. Baars）迎难而上，提出了全局工作空间理论（global workspace theory），将大脑视为一个由巨量神经元构成的信息处理装置，神经元通过模块之间的竞争合作而构建起 “全局工作空间”，意识与无意识也产生于工作空间的形成之中。不同于巴尔斯从第三人称的“客观视角”，神经科学家托诺尼（G. Tononi）则致力于从第一人称的“主观视角”出发，把意识描述为一种“改变自身状态的因果作用网络结构”系统。

似乎还不能完全解惑。

近年来亦出现了融合第一人称与第三人称的趋势，其中最具代表性的莫过于查尔莫斯（D. Chalmers）的“信息的双重实现说”——信息空间存在着“物理实现”和“现象实现”两种方式，物理系统状态（大脑）与主体系统经验（意识）共享了一定意义上的一致性。

全局工作空间理论示意图（来源：The Brain Blog）

找到问题，是否离问题的解决更进一步了？

AI如何摆脱无心、无情、无实践推理的困境是当代认知科学长期需要关注的议题。一方面，学界要不断反思第一代认知科学、重估第二代认知科学，调整未来的前进方向；另一方面，哲学与认知科学也需要通力合作，寻找搭建意识和物质的桥梁，在破解意识之谜的道路上更进一步。哲学家与计算机、工程领域的学者须携手并进，共同努力，开辟具备可信伦理的人机共存的未来。

*文汇独家稿件，转载请注明出处。