▲《底特律：变人》是由大卫·凯奇执导的一部人工智能题材的互动电影游戏。游戏背景设定在底特律这座城市，讲述了三个仿生人，马库斯，卡拉，康纳，逐渐拥有人类意识的故事。

对人工智能技术高度发展所带来的的不确定性的思考，最终的落脚点还是要回到人和技术的关系问题——在技术发展中，人应该有什么样的地位，以及人的地位应起到什么样的决定作用。

自欧洲议会提议授予机器人“人格”地位不久，世界首位机器人“公民”索菲亚（Sophia）便在沙特诞生，即说出“毁灭人类”的恐怖话语。今年4月，日本东京的市长竞选中竟然出现了一位机器人候选人，竞选团队甚至给出了它当选市长的优点：不会行贿受贿，而且工作效率高。《大西洋月刊》6月号发表95岁的前美国国家安全顾问和国务卿基辛格的文章警告说：人工智能的进步可能导致一个人类将无法理解的世界。

诚如牛津大学量子物理学家戴维·多伊奇（David Deutsch）所言：哲学实际上是解锁AI的钥匙。机器人是人吗？是否应该被赋予与人类相同的权利？未来机器人是否会全面取代人类？诸如此类的伦理问题意味着人工智能的发展需要更多哲学上的探索和反思。近日，在由上海市自然辩证法研究会、中国自然辩证法研究会自然哲学委员会、东华大学马克思主义学院联合举办的“智能化社会与人类发展”学术会议上，来自各大高校哲学系的专家学者们就上述问题展开了讨论。

机器人的“人化”与人的“机器化”

机器人与人的界限在哪里？要回答这一问题，必须首先厘清人类自身理性、情感和智能中的本质性问题。上海大学杨庆峰教授指出，是否拥有记忆是区分人与机器人的一个重要界限。对于人来说，意识的连续性对自我的维持非常重要，如因偶然事故或阿尔兹海默病而导致记忆障碍，都会令人非常痛苦。但是机器失去它们的“记忆”——被删除数据，却并不会有类似的问题。未来，这个界限完全有可能被打破。为机器人注入“记忆”是现在最新的研究方向，科学家们正在尝试为机器人搭建不同的、多元的记忆神经元回路，让它们展示出类似人类的多样的记忆行为。但拥有了记忆，机器人就能被称为“人”了吗？问题似乎并没有那么简单。

合肥工业大学李才华副教授进一步指出，除了持续性的记忆之外，机器人与人的本质区别还在于是否拥有维护自我生存的意识。人有自己的生活目的，这种目的之根源就是追求生存。如果机器人将来能自我设计程序，自我修复，就可能脱离人而具有主体性。就像大热的美剧《西部世界》中，机器人女主角之一的梅芙因为母爱而“觉醒”，然后获得了修改自身程序的能力，使得观众认为她甚至比真正的人类更具有人性。《西部世界》中的机器人当然离我们很远，但李才华指出，这种自我设计、修复的能力正是未来机器人研发的方向。我们可以期待的是，当机器人被送到外星，或者到海底深处工作，受到损伤或发生故障时能够自我修复。所以，机器人拥有生存意识，也并非天方夜谭。这使得人与机器的边界变得更为模糊。

现在，机器人和人类边界的消失不仅仅表现为机器人的“人化”，还表现为人的“机器化”。特斯拉CEO马斯克目前就致力于“人脑植入芯片”计划，制造让人脑与电脑直接相连的可植入设备，在他看来，“人类和机器之间的最好结果将是一个集体的生活方式”。此外，一系列人类增强技术也被广泛应用于医学、基因工程等领域。有人甚至提出“后人类”的概念，预测未来的人类将成为一种有情感的机器。这在哲学层面也引发了一个关键问题：人类增强是否改变了人类本质。

目前学界看待该技术主要有两种思潮：一种叫超人类主义（transhumanism），认为科学技术进步是一个无止境的过程，并会帮助人类实现永生的梦想；另一种则是生物保守主义，认为应该对可能改变人性的生物技术的研发实施管制，如生物保守主义的代表人物福山就认为，人性取决于人的基因构成、物理体征等自然特征，改变这些就是在破坏人与人平等的自然基础，从而侵害人的权利。

见智见仁，理原一贯。人类增强技术不仅仅是技术问题，更是伦理问题。据上海社科院哲学所副研究员计海庆介绍，应用伦理学在该技术的具体应用方面有着非常广泛的讨论。比如代际伦理问题。通过对未出生的孩子进行基因编辑来改变其身体的某些性状，现在从技术上已经可以做到，但如果孩子出生后对这些改变不满意，应当如何平衡？比如公正问题。目前，美国高中生群体在考试时使用边缘性的处方药来提高短时精神能力的现象已经非常普遍。以此类推，在体育比赛中服用兴奋剂是不是也能被逐渐接受？由此可见，人类增强技术的伦理底线最终还是要探讨一个问题：假如我们可以为人性“编程”，哪些“核心代码”是我们必须保留的。

“人和技术的关系”是思考的落脚点

有位人工智能专家曾这样写道：“终有一天，机器人将把我们人类关在动物园的牢笼里，大机器人带着小机器人参观动物园，对小机器人说，孩子，这是人，是我们的祖先。”在将上帝的概念“驱逐”出去后，我们将精力完全投入到技术创造中，自己扮演起造物主的角色。但未来，人类自己是不是也会同样遭受被“驱逐”的命运？

东华大学教授王治东指出，人工智能概念蕴含着“人工-智能”两个向度，这两个方面让人工智能成为悖论性的存在。持乐观主义态度的学者们认为，人类智能有人工智能无法取代的独特优势，并且人工智能其实也可以为人类智能开启新的“进化”方向。在东华大学张怡教授看来，在智能化社会条件下，一种基于物联网为载体的存在方式为人类智能打开了新的空间，那就是集体智慧，由此形成一种跨界的合作性认知，这个跨界性的合作将形成一种新的社会分工即“超专业化现象”——将工作置于一个“全球脑”下进行虚拟的整体操作。这种“集体智慧”是人类协同效应的进化，也是人类智能在受到人工智能影响的条件下进化的路径。上海大学王天恩教授也指出：“智能进化只能是作为集体的类进化的结果，不是按照图纸批量生产就能超越的，这一点大概是人类智能具有优势的地方。”

另一方面，许多学者则担心机器人发展对人类本身所造成的潜在威胁。南京大学荣誉资深教授林德宏就表达了对人类未来的担忧：“按照技术自身的发展逻辑，机器人会不断地取代人类，从人的双手、体能，到人的大脑、智力，再到人的理性、情感，甚至取代人的信仰和社会地位。”林教授特意引用了爱因斯坦的话“关心人的本身，应当始终成为一切技术上奋斗的主要目标”，他强调，为了维护人类自身的尊严，应该为技术的发展规定社会底线。而对技术的合理约束实际上是对人自身的约束，约束不断膨胀的物欲和对技术的贪婪追求。类似地，复旦大学哲学系副教授徐志宏也指出了机器人对人类的一种本体论层面的威胁，她是这样说的：“马克思曾指出，自由自觉的劳动是人的类本质。机器大工业的产生解放了生产力和土地上的劳动者，却也导致了劳动者经济和技能双重意义上的赤贫。今天我们在更深程度或者更大范围上面临着相似的问题：当人的生活只有输入而无输出（马克思意义上自由自觉的劳动）时，人一开始会感觉到便利，但最终会产生深层的焦虑，不知道自己该干什么。技术的发展让人碎片化并带来本体论的危机，尽管智能会越来越发达，但人却做出了某种牺牲。”

不过，比起担忧“机器人会统治世界”这样相对遥远的末世预言，可能更需要我们迫切警惕的是，人工智能会造成“马太效应”，并进一步加深社会分层现象。南京林业大学副教授郭辉就指出：“不同消费群体由于知识化能力明显的分化，在掌握运用AI技术的能力和适应度上是存在巨大差异的。因此，必须弄清如何让这些新技术造福整个社会，而不仅仅是技术的控制者。此外，在消费群体中也存在着这样的分层：创造型消费者能充分利用其产品提供的交互性性能，在使用中学习和发展新的智能；而被动型消费者由于知识化能力的匮乏，只能沿着被锁定的技术路径，对人工智能产品形成彻底的依赖而沦为技术的奴隶。”

海德格尔有关“牧羊人与羊”的比喻人们耳熟能详，但现在的情况似乎发生了反转：在人工智能的促逼下，人类渐渐丧失对技术的控制。为此，中共上海市委党校教授张春美强调，对人工智能技术高度发展所带来的不确定性的思考，最终的落脚点还是要回到人和技术的关系问题——在技术发展中，人应该有什么样的地位，以及人的地位应起到什么样的决定作用。今天，如果我们追随技术的逻辑，不断学习和掌握新型的技术，就有可能成为这个时代的牧羊人，否则，我们就可能沦为被技术所驱使的羊。

作者：陈瑜
编辑：周俊超
责任编辑：任思蕴

*文汇独家稿件，转载请注明出处。