和大多数人憧憬人工智能技术发展会给人类社会带来哪些福利有所不同，法学家们的思考出发点是：人工智能技术是一把“双刃剑”，在造福人类的同时，也可能蕴藏着新的风险。

今天是上海书展的最后一天。下午四点，知名刑法学家、华东政法大学刑事法学研究院院长刘宪权携新作《人工智能时代的刑法观》而来，并作了同题的法学讲座。

在学校上课时，这位明星法学教授总喜欢从提问开始、启发学生思考。在今天的讲座现场，刘宪权的讲述同样是从一则大众关心的问题开始的：当人工智能机器人被作为犯罪工具、开始危害社会时，现有刑法是否能够完全规制人工智能犯罪？

“有人直到目前为止仍然认为，用于实施犯罪的人工智能机器人，本质上就是一个作案工具，是一件器物，现行刑法完全可以对相关犯罪行为进行规制。但事实真是如此吗，刑法的完全规制能够适用多久？”结合近年在人工智能法学领域的研究，刘宪权给出了他的结论：按照机器人智能化程度，目前暂分为普通机器人、弱人工智能机器人和强人工智能机器人。而这个升级发展的过程，本质上是机器人“机器”的成分越来越少，“人”的成分越来越多的过程。

众所周知，人是有意识和思维的。随着技术的发展，未来的强人工智能机器人一旦有了“思维”，刑法这道“最后的防线”为了保护社会的安稳有序健康，就有必要作出相应的修订。

“技术的发展和更迭往往超乎人类的想象。当风险转变为现实危险后才考虑刑法规制问题，将使人类陷入被动的局面。”因此，针对一些学者所忧虑的法律的规制会束缚人工智能技术发展的手脚、遏制技术进步不同，刘宪权在他此次的新作中提出明确主张：法律就应该未雨绸缪。而刑法更应该秉持前瞻性的理念，未雨绸缪，确保人工智能技术在应用层面安全、可靠、可控。

即便是眼下，一些案件的发生，已经让司法界感到棘手。

刘宪权举了一个案例。2015年2月，英国首例达芬奇手术机器人心瓣修复手术进行。这原本是一场最尖端的医疗AI技术展示，没想到却成了一场鲜血四溅的惨案。当时，达芬奇手术机器人出现了“暴走”，不但把患者的心脏缝错了位置，还戳穿了患者的大动脉，导致患者在手术后一周去世，手术以失败告终。分析可知，虽然医生在手术中存在医疗过错行为，但医疗损害事故的发生并不完全是因为医生的过失，医疗机器人在同样存在“失误”。这一案已经提示人们注意，医疗机器人因机器故障或算法失误，就可能导致医疗损害，存在一定的刑事风险。

“就目前的人工智能技术发展水平而言，我国现行刑法规定可以规制大部分涉人工智能犯罪。但需要针对条文规定过于模糊的地方，通过司法解释予以明确，或者调整部分犯罪的构成要件，将人工智能时代出现的新型行为方式予以包涵。”而刘宪权认为针对人工智能时代出现的特有新型犯罪，则需要践行人工智能时代刑法的前瞻性理念，增设滥用人工智能产品罪和人工智能产品事故罪等罪名，实现技术飞速发展和刑法条文相对稳定性之间的平衡。

值得一提的是，刘宪权还大胆地在新作中提出了一个观点：依据人工智能机器人自身的特点，增设能够适用于人工智能机器人的刑罚处罚方式，无疑是人工智能时代规制涉人工智能犯罪的重要内容。

他建议，在对人工智能刑事立法具体条文的修订和增设方面，应当修改侵害计算计信息系统类犯罪、交通肇事罪、危险驾驶罪等犯罪的主体和行为方式，使其适应人工智能技术的发展现状和未来趋势。同时，在刑法中针对人工智能机器人增设删除数据、修改程序、永久销毁等刑罚处罚的方式。

今年是刘宪权连续第四年在上海书展举行新作签署。每年上海书展都有法学研究领域的新作问世，刘宪权的“高产”和勤勉，也成为了学术界的佳话。

除了惯有的对待学术研究的认真与执着，在接受文汇报记者采访时刘宪权直言，每年一本著作上新，学术“高产”的根本驱动力是他对新生事物的好奇。“像人工智能技术发展对法律和未来社会带来的挑战这类问题，是一个很大的时代课题，可以研究一辈子。”

作者：樊丽萍
编辑：金婉霞
责任编辑：唐闻佳

*文汇独家稿件，转载请注明出处。