2021年7月8日，上海——在第四届世界人工智能大会期间，可信人工智能赋能金融科技国际研讨会成功召开。包括中国科学院何积丰院士、中国工程院柴洪峰院士等在内的各位专家学者，围绕当前金融科技、金融监管和安全风控等领域的一系列重要问题展开研讨，梳理和展望了可信人工智能技术如何解决金融科技迫切需求。

近些年来，一系列包括大数据、云计算、深度学习和区块链等在内的人工智能所推动的金融科技创新深刻影响了产业发展和大众生活。快捷支付、数字货币、智能投顾新颖的业态和服务方式等步入现代生活，也显著驱动了行业进步。但是，大规模数据收集和智能算法所带来的隐忧和风险，也加深了监管难度，并引发了诸多争议话题。最近以来，大数据杀熟、消费贷泛滥、比特币波动、数据平台公司跨境上市争议等都引起了社会各界的广泛关注。如何平衡和引导技术发展，推动金融科技、金融监管技术进步的同时，平衡社会、用户和机构的关切，开始成为重要议题。

本次论坛由我国著名计算机软件学家、中科院何积丰院士倡议发起。论坛由同济大学上海自主智能无人系统科学中心可信人工智能研究所主办，复旦-斯坦福中国金融科技与安全研究院、上证所技术公司、华泰证券公司协办。论坛邀请了政府监管机构、学界、业界和相关领域的专家学者共同研讨。

金融系统中的可靠性一直是大家关注的重要考量。金融科技中的数据密集、复杂模型和多方交互，显著加深了可信性的迫切需求。人工智能的“可信性”是在可靠性、安全性、鲁棒性、可解释性、可控性等众多概念的基础上发展起来的一个新概念。在智能系统中，“可信”是指一个智能实体在开放、动态环境下实现目标需求的动态过程中，其行为及产生结果总是符合人们的预期。它强调目标与实现相符，强调行为和结果的可解释性、可预测性和可控制性。除此之外，可信智能计算还要求在受到诸如环境影响、外部攻击等动态环境干扰时，仍然能够持续提供符合预期的服务。

针对近期金融科技发展中的难点挑战，专家建议在技术层面，进一步关注隐私计算、程序验证等的适用；产学研和政府机构紧密协作，攻坚克难，推动行业标准、规范和共性技术的研究探索。此外，人工智能和金融科技的“可信”，也需要建立相应的法律、法规、标准和社会伦理准则。比如，近期即将生效的《数据安全法》，对数据的使用、保存和交换等提出了一系列规范、义务和制度规定。

本次论坛将继续通过机构建言、行业沙龙、技术白皮书等形式，推动可信人工智能技术示范落地金融场景，提升我国金融科技、监管等领域的安全性和可靠性。