作者：江世亮 姚人杰

近来，人工智能成为热词，这次不是因为某部科幻电影，而是因为理论物理学家斯蒂芬·霍金、特斯拉公司首席执行官埃伦·马斯克等一些科学家、企业家及与人工智能领域有关的投资者联名发出的一封公开信。他们在信中警告人们必须更多地注意人工智能(AI)的安全性及其社会效益。要警惕其过度发展，因为得到充分发展的人工智能或许预示着人类最终被超越。霍金说：“人工智能的全面发展可能导致人类的灭绝。”

其实早在去年5月，霍金曾与另外几位科学家在为英国《独立报》撰文时就已表达过类似的忧虑，霍金认为人们目前对待人工智能的潜在威胁“不够认真”。“短期来看，人工智能产生何种影响取决于谁在控制它。而长期来看，这种影响将取决于我们还能否控制它。”

上述公开信的签名者包括了机器智能研究所执行主任吕克·米尔豪泽、麻省理工学院物理学教授兼诺贝尔奖得主弗兰克·维尔切克、人工智能企业DeepMi nd和Vicari ous的幕后主管等一些大牌，故此信甫一问世即引起广泛关注。

人工智能危险论还得到了诸如霍金和尼克·博斯特罗姆的支持，后者还就这一话题发表了大部头新作《超级智能》（Superi ntel li gence），博斯特罗姆在书中具体地研究了人工智能为何有可能酿成灾祸，又会如何酿成灾祸。博斯特罗姆是牛津大学“人类未来研究所”的所长，该研究所专注于研究人类面临的生存威胁，是多个类似的新设研究机构之一。

相比之下，马斯克的看法更加引人注目，他用个人推特账号发布警示，进行长篇论述，称人工智能是人类遇到的最严重的“生存风险”。

反对者们担心什么——短期：导致失业大军长期：智力水平或超过人类

在马斯克看来，人工智能对人类社会的威胁有短期和长期二种：“短期而言，人工智能可能导致数以百万计的人失业；长期而言，可能出现一些科幻电影中的情况，人工智能的智力水平超过人类，开始‘政变’。按人工智能的发展进度，在不久的将来，机器可能以不断加快的速度重新设计自己，超越受制于生物进化速度的 人类，最终摆脱人类的控制。”

事实上，人工智能有可能令大量人类失业，已被反对者们列为眼下最迫在眉睫的议题。牛津大学教授“未来技术之影响”课程的卡尔·弗雷与迈克尔·奥斯本所做的一项研究清楚地表明了情况。他们对超过700份工作进行了分析，其中几乎一半工作在未来都能由电脑来完成。这一波由电脑来取而代之的浪潮不仅能摧毁那些低薪酬、低技能的工作（尽管那些工作确实面临严重的风险），还能摧毁某些白领工作和服务业工作，此前这些工作被认为是安全无虞的。技术正在大步前进，将接过人类的体力劳动和智力工作。

但另有一些反对者则站得更高，他们承认普遍失业确实是种严重的威胁，“但这可是我们早已见识过的一幕。在过往的技术剧变时期，人类会聪明地从过时的工作的灰烬中创造出全新的工作与行业。我们也许能幸免于难，逃过一劫，即使人工智能侵蚀更多依赖智慧的创造性行业”。因此，这些人认为，我们更应该关注的问题是，人类会不会失去它作为地球上最高智能生命的地位？

对于这些已经患上“人工智能焦虑症”的人士来说，当前研发自我-纠正算法（“机器学习”）的努力，再加上计算能力的持续增长，传感器无处不在，愈来愈多、收集全球各地的各种情报与信息的局面，会推动人工智能逼近人类，并最终成为超越人类的智能。

智能爆炸缘何如此令人担忧？一位反人工智能代表人士这样表达他的观点：原因在于智能并非工具或技术。我们也许认为人工智能是我们使用的某种东西，就像榔头或螺旋开瓶器一样，但那基本上是错误的想法。那些足够高级的智能——譬如我们人类——是创造性的力量。它的力量越强大，就越能重塑周遭的世界。

更具代表性的会是一种平淡得多的结局：人类被彻底消灭，只因为一个被授予了简单任务（比方说制造回形针，这是一个常常被用到的例子）的人工智能征用了地球上的所有能源与原材料，永无休止地大量制造回形针，人类试图阻止，但人工智能无论斗智斗勇都胜过了人类。

在好莱坞出品的电影中，总是会剩下一些人类实施反击，但假如人类面临的是真正超越人类的智能体，好莱坞版的结局就不太可能成真。局面会像小白鼠企图智胜人类一样（那时的我们就是小白鼠）。

乐观派的观点——恐怖论无根据，人工智能会带来很多机遇

当然，并非人人都认同这种灰暗的预测。在人工智能乐观派的阵营里，未来学家、谷歌公司工程总监雷·库茨魏尔也预见智慧机器会促成人类某种意义上的“灭绝”，但这绝不意味着人类的彻底消失，而是被包容成为超级智能的机器。库茨魏尔认为，这种“人类-机器共生体”并非技术灾难，而是人类从自身生物学弱点中 获得最终的解放。

不少科学家认为，霍金对于人工智能的未来过于悲观。在他们看来，至少在相当长的时间里，人类还难以完全掌控这类技术的发展，而要让人工智能技术得到“充分发展”，还有很长的路要走。一些科学家怀疑人工智能是否会达到人类的智慧程度与认知程度，“更遑论超越人类了”。还有人—— 譬如纽约大学的加里·马库斯则选择保持中立。“我不知道任何表明我们应该担忧的证据，”马库斯说，“但也没有任何证据表明我们不应该担忧。”

英国数学家欧文·约翰·古德有过一段著名的描述，他把超智能机器的发展形容为“人类需要做的最后一项发明”，因为在超智能机器出现后，人类会把创新与技术研发的工作让给超智能机器这位更为智慧的继任者。“即使从人机交互（Siri）出现到人类灭绝并非是一条直线式的发展，我们人类大概还是应该更加严密地盯着点我们的机器”。

中国学者也表达了类似的观点。譬如，针对近两年国内出现的机器人热，有人担心会出现“机器换人”的情况，中科院自动化研究所研究员、复杂系统智能控制与管理国家重点实验室主任王飞跃的观点是，机器人一定不是把人换掉，而是有可能创造出新的职业，比如机器人程序员、机器人工程师等等，就像计算机发展起来之后，不但没有减少就业人口，反而围绕着计算机衍生出了更多的、前所未闻的新型工作岗位。因此，不是“机器换人”，而是“机器 渡人”、“机器升人”、“机器化人”。最后走向人机合作，机器向人靠、人向机器拢，合而为一，成为工业生产与社会服务中真正的“机器人”。

针对史蒂芬·霍金和艾伦·马斯克的“人工智能威胁说”，微软研究员埃里克·霍尔维茨称得上是坚定而理智的反击者，他这样回应：对于很多研究者来说，这样的恐 惧是毫无依据的，而有些研究者则不确定，另一些则有同样的担忧。不管怎样，我们都应该重视这些问题，并且让大家明白，我们还是可以做一些努力，让人工智能 被开发、利用的同时也能得到控制。作为科学家，我们需要保证这些关于人工智能系统的安全性、自主性的忧虑都会得到解决。“我们需要常常问自己：人们所害怕 的这些结果真的有可能会出现吗？如果有可能，我们该如何主动避免它发生呢”？

“我个人的观点是人工智能将会让人类变得更强大。它会帮助解决问 题，做更好的科学研究，会帮助应对在教育、医疗保健和饥荒问题上遇到的挑战。我觉得从积极方面看，人工智能会带来很多的机遇。在一定程度上，多年来我曾有 的一些忧虑也都能得到解决。我对人工智能持有十分乐观的态度，而且对于人工智能对人类社会影响的研究和指导是十分必要的”。