欧盟通过《人工智能法案》传递了什么信号？

封帅

封帅 上海国际问题研究院国际战略与安全研究所副研究员

13日，一场延续近3年的立法进程完成了所有实质性操作，人类历史上第一部针对人工智能技术的欧盟立法《人工智能法案》诞生。这一天无疑将成为人工智能治理发展史上的里程碑时刻，但它将以怎样的形象被记录于人工智能发展的史册，恐怕还不能轻易下结论。

争夺人工智能治理全球进程领导权

面对汹涌而来的人工智能技术浪潮，欧盟仍试图复制过去的成功经验，希望在人工智能治理方面取得显著突破，通过有效的规则制定确立自己在治理领域的话语权和道德优势，在一定程度上弥补其他领域的短板，确保欧盟在全球人工智能领域战略竞争中的独特地位。基于这样的考虑，欧盟从2021年就开始实质性推进人工智能立法工作。

从人工智能治理的角度来看，欧盟《人工智能法案》是一份值得研究的法律文本，其亮点包括：

其一，法案借鉴GDPR的分类方式，对人工智能技术进行了具体的风险定级，分类监管。法案将人工智能技术所带来的风险划分为：不可接受风险、高风险、有限风险和最小风险。法案将包括使用潜意识、操纵性手段扭曲人类行为，影响决策能力的技术和推断敏感属性技术等人工智能系统列入不可接受风险类。将那些认为对健康、安全、基本权利和法治构成巨大威胁的人工智能系统列入高风险类。根据法案文本，对于这两类风险将进行重点防范。

其二，对于人工智能通用人工智能模型的管理给出了具体建议。法案将通用人工智能模型分为具有系统性风险模型和不具有系统性风险模型两类，针对所有通用人工智能模型，法案提出了详细的透明度、可标记、可追踪等各方面的要求，对于那些被视为具有系统性风险的模型更是提出了更为复杂的审查要求。

其三，制定了高额的处罚标准。对于违反法案所禁止的人工智能系统条款，将被处以最高3500万欧元罚款，或上一财年全球年营业总额7%的处罚，以数额较高者为准。可以说执行非常严厉。

法案的系统性影响尚难准确评估

但从目前来看，该法案的出台对于欧盟人工智能的发展将产生怎样的影响仍有待观察。

作为当前最受关注的前沿数字技术，围绕人工智能所展开的多层次多领域全球竞赛已成为当前国际关系的重要内容。这场全球竞赛是一个多维度进程，技术创新、产业发展与治理体系建设三者相互影响，共同构成竞赛的核心。在这场竞赛中，欧盟的比较优势主要体现在治理与规范领域，但在技术创新和产业发展方面相对不足，因此选择在治理方向上迅速推进。在某种意义上，正是由于欧盟内部具有全球竞争力的大型人工智能企业数量有限，加之欧洲国家根深蒂固的文化传统，《人工智能法案》才能够较为顺利地出台。

多位欧洲议会议员称，方案将促进技术创新，推动人工智能在欧洲的部署和发展，但历史经验并不支持这一结论。从企业视角来看，更加严格的治理体系实际上意味着企业成本的相应增加，将直接削弱欧洲人工智能企业的全球竞争力。有可能达到17%的成本增幅，对于很多初创企业来说就是压倒骆驼的最后一根稻草。更重要的是，目前全球市场上主流的人工智能技术大多可以被归入不可接受风险和高风险智能系统，而能够被纳入最小风险范畴的技术大多缺少足够的利润想象空间。因此，在法案公布后，全球主要科技企业大多表态谨慎。

欧盟《人工智能法案》的出台是全球人工智能治理进程的大事件，但其未来的系统影响将以怎样的方式呈现，要看欧盟内部能否做好治理与技术创新、产业发展之间的联动，以及世界主要国家在治理规则方面的协调。