封帅

编saying：日前，在半斗经济发展中心举办的“当代科技大潮中的世界经济与国际政治”研讨会上，上海国际问题研究院助理研究员封帅做了《人工智能技术对国家安全的风险与挑战》的主题演讲。这是他与上研院的团队自2016年开始的研究，涉及对经济、政治、军事、社会各领域全面的推动和挑战。

今刊发AI对政治安全的挑战部分，核心观点是：作为大工业时代产物的科层制管理体系应该适应AI时代技术进步的要求，反之，国内政治将有稳定之虞，国际博弈亦将处于被动地位。 

人工智能技术的影响会从经济领域逐渐向外渗透，会自然扩展到政治与社会管理领域。人工智能技术的特质与能力容易对现有的社会舆论环境与国家治理结构产生影响。

从现象层面看，人工智能技术及其背后的大数据和算法能够潜移默化地影响人类行为，直接作用于国内社会舆论与国家治理问题。而从更深的结构层面来看，人工智能所带来的社会经济结构的调整，会促使资本的权力在政治体系中呈现扩张态势，最终在国家治理模式的责权分配中获得相应的反映。

除此之外，从长远来看，人工智能技术的介入，也将影响国际竞争的内容与形态。因此，对于身处人工智能时代的主权国家而言，如何在快速变革的条件下有效维护本国的政治安全与社会稳定，并且维持参与国际竞争的能力，将是所有国家都不得不面对的重要课题。

“我们知道你的希望和恐惧”：数据与算法就是权力

剑桥分析事件

从2016年开始，我们能够越来越切身感受到人工智能技术的进步对于各国国内的政治议程所产生的影响，特别是围绕着2016年美国大选，各种技术集团与政治集团的纵横捭阖已经让我们能够初探未来人工智能技术通过数据和算法能够在怎样的程度上影响政治行为的结果。其中引发最大争议的便是众所周知的剑桥分析公司事件。

剑桥分析公司在大选时的种种行动清晰地显示了技术对于现代政治生活的直接影响。它让我们意识到只要拥有足够丰富的数据和准确的算法，技术企业就能够为竞争性选举制造定制化服务。

在人工智能技术的协助下，各种数据资源的积累，使每个接受互联网服务的用户都会被系统自动画像与分析，而这些信息本身也可以轻易服务于政治活动。

正如英国第四频道针对剑桥分析事件所做的评论，“……一只看不见的手搜集了你的个人信息，挖掘出你的希望和恐惧，以此谋取最大的政治利益。”于是，伴随着技术的不断成熟，当某种特定政治结果发生时，你将难以确定这是民众正常的利益表达，还是被有目的引导的结果。

数据和算法就是权力，这也意味着人工智能时代孕育着新的政治与社会风险。

这种用技术干涉国内政治行为的风险对于所有国家都普遍存在，但对于发展中国家挑战更为明显。由于缺乏相应技术积累，发展中国家并没有充分有效的方式保护自己的数据安全，也没有足够的能力应对算法所带来的干涉。

人工智能技术的进步将进一步凸显他们在政治安全领域的脆弱性特征，传统的国家安全也将面临严峻的考验。

技术与资本相互渗透，可能改变AI时代公共产品的提供方式

人机对弈背后，企业做了很大的推动，驱动着AI的迅速发展

从根本上说，政治体系的形式是由社会经济生产方式的特点所决定的，不同时代的生产力水平决定了特定时段最为合理的治理模式和体系组织形式。但从当前的各种迹象来看，资本权力依托技术和数据垄断的地位持续扩张将成为新时代国家治理结构调整的重要特征。

由于人工智能技术的研究工作门槛很高，依赖于巨额且长期的资本投入。

当前，人工智能研究中最具实际应用价值的科研成果多出自大型企业所支持的研究平台。

目前大部分人工智能领域的突破性成果都是由谷歌、微软、IBM、Facebook、亚马逊、百度、腾讯、阿里巴巴等超级互联网企业所推动的，他们的实验室也聚集了最顶尖的人才和最大数量数据，超级互联网商业巨头实际上掌握了目前人工智能领域的大部分话语权。

人工智能领域研究已经深深地打上了资本的烙印，大型企业对于数据资源以及人工智能技术的控制能力正在造成他们实际上的垄断地位。由于他们的服务已经深嵌于社会生活的方方面面，而且可以利用算法的黑箱为大众提供他们希望看到的内容，这种现象在谷歌、Facebook等机构的商业活动中已经能够明显被观察到。对于数据和算法的长期掌控也会潜移默化地改变社会公共产品的提供方式。

资本与技术力量的结合将是人工智能时代的重要特征之一，它在一定程度上逐渐分享部分传统上由民族国家所承担的公共产品提供者的职责。现在这种现象在个人信用、知识分享领域已经出现，随着新技术在各个领域的推进而资本权力还将保持扩张态势，这将成为人工智能技术进步过程中所带来的社会治理模式调整的基础。

数据和算法会为国家带来新的战略博弈优势

人工智能决策系统或将在未来在战略博弈中的使用

人工智能技术进步所带来的另一项重要影响是对国际战略博弈领域的改变。

战略博弈是国际关系中最为普遍的竞争形式，各国通过判断博弈对手的能力、意图、利益和决心，结合特定的外部环境分析，制定出最为有利的博弈策略并加以实施。

由于国际关系领域的战略博弈涉及范围广，内容复杂，各项要素相互累加形成的系统效应实际上已经远远超出了人类思维所能够分析和掌控的范畴，传统意义上国家参与战略博弈的过程更多依赖政治家的直觉与判断。

这种状态给人工智能技术的介入提供了条件。

首先，人工智能系统能够提供更加精确的风险评估和预警，使战略决策从一种事实上的主观判断转变为精确化的拣选过程，提升战略决策的科学性。

其次，深度学习算法能够以更快的速度提供更多不同于人类常规思维方式的战略选项，并且随着博弈过程的持续，进一步根据对方策略的基本倾向对本方策略加以完善，提升实现战略决策的有效性。

最后，在战略博弈进程中，人工智能系统能够最大限度排除人为因素的干扰，提高战略决策的可靠性。

迄今为止，尚未有充分证据证明世界各国在战略决策过程中采用了人工智能技术，但类似系统在商业和金融领域的应用和影响已经初步显现。

人工智能决策系统在证券金融行业已经广泛应用

随着技术的进步，以人工智能技术为基础的决策辅助系统在国际战略博弈的进程中也将发挥重要作用。技术的完善将使得国际行为体之间的战略博弈能力的差距进一步扩大。缺少人工智能技术辅助的行为体将在风险判断、策略选择、决策确定、执行效率，以及决策可靠性等多个方面处于绝对劣势，整个战略博弈过程将会完全失衡。

总的来说，人工智能技术的快速发展所带来的不确定性将直接影响到国家治理模式的稳定。

人工智能技术的介入还有可能进一步拉大国家间的战略设计与战略执行的能力差距。

技术的潜力一旦得到完全释放，将使得国际竞争格局进一步失衡，国际关系行为体之间一旦呈现出技术与制度上的系统性差距，发展中国家将面临更加严峻的国际环境。

作者：封帅

编辑：周俊超

责编：李念