一、问题提出：对人工智能风险进行刑事归责的困境 近年来，人工智能引发的风险在国内外均引发了社会广泛关注。 国外案例：美国首起自动驾驶致人死亡案。2018年3月，一辆处于自动驾驶模式的Uber车在美国亚利桑那州路测时，与行人相撞并致其死亡。调查结果表明，Uber的自动驾驶技术存在固有缺陷，且Uber企业内部安全文化不足、缺乏风险评估机制。①该案审理一直持续到2023年7月，司机最终因未保持警惕危害他人安全(在超过三分之一的行程里将视线移开道路)被判处三年缓刑，但汽车运营商Uber并未承担刑事责任。 国内案例：AI合成录音案。2024年9月，三只羊公司高管卢某某酒后对女主播及消费者的不当言论录音在网上发酵。该录音系犯罪嫌疑人王某某从网上下载受害人的音视频资料并制作脚本，利用AI配音大模型平台Reecho(睿声)生成虚假录音。②由于录音中的对话场景过于真实，即使受害人第一时间声明录音内容是AI合成，录音真假问题仍备受争议。王某某被依法采取刑事强制措施，而Reecho未被追究法律责任。 在自动驾驶致人死亡案、AI合成录音案中，Uber汽车运营商和Reecho睿声均未承担刑事责任。在人工智能起步阶段，基于包容审慎的发展理念，各国很少对人工智能相关主体追究刑事责任。但是，根据我国互联网领域的司法经验，随着人工智能的广泛应用，有限制地适用刑法防范其重大风险在所难免。本文倡导刑法关注技术应用危险而非技术开发风险的理念，提出责任与风险相适应的刑事归责原则：技术风险越低，注意义务越少，间接故意成立条件越多，技术中立适用空间越大。 二、严格限制因内生风险对技术开发者刑事归责 在人工智能风险链条中，技术开发者、服务提供者与使用者的责任内容存在差异：技术开发者负责训练数据和构建算法模型，需对数据来源合法性、算法逻辑安全性负责，即对内生风险负责；服务提供者作为技术应用的出口端，承担信息内容安全的主体责任，需建立风险防控机制，对应用风险负责；用户不对技术本身的安全性负责，但其利用技术生成违法内容的行为可能构成犯罪，即对个人使用行为负责。 (一)人工智能风险的分类 人工智能的风险包括内生风险、应用风险，具体而言： 一是开发、训练和测试阶段的内生风险，包括数据和模型风险。数据风险主要包括开发者未经同意收集非公开数据、训练数据时标注错误致使算法模型功能缺陷、训练语料库内储存的数据包含错误内容或者因黑客攻击而受到污染等。模型风险是指深度学习算法模型被篡改、攻击，或者模型运行错误、不稳定或不透明等。内生风险要求开发者在算法模型开发阶段，对数据开展合规检查，确保数据来源合法、使用恰当、内容正确，同时进行全面的伦理评估。 二是部署、使用和维护阶段的应用风险，即人工智能对外提供服务时产生的风险，分为决策结果风险和合成内容风险。决策结果风险是指人工智能系统决策产生的错误或者歧视，如在评估假释和贷款申请中，模型基于种族、性别、职业等因素生成歧视性决策结果。合成内容风险是指生成式人工智能在人机交互过程中生成违法、有害内容，如ChatGPT在用户引导下生成色情或虚假灾情内容。③ (二)技术责任论之提倡 在人工智能领域，应当采用技术责任论。在罪过的认定上，传统刑法的心理责任论、规范责任论，都不适应数字技术的发展。算法开发者都明知会发生算法黑箱、技术幻觉等确定存在的风险，按照心理责任论的心理联系，都需要对技术风险负责。按照规范责任论，人工智能开发者多是巨头公司，工程师动辄年薪百万，都不存在类似于“癖马案”中车夫那样“无期待可能性”的悲惨境遇，在危害后果发生时都有可谴责性。本文主张，在人工智能领域，应当用技术责任论解释罪过——有风控意识的技术创新不受处罚，考察技术的可谴责性要引入功过相抵理论，即对创新性的正面认知，可以抵消对危害性的负面认知；应知和明知的对象不仅是危害后果，还包括技术进步和人类福祉。限于篇幅，本文不详细展开。 (三)因内生风险对技术开发者刑事归责的宽与严 对善意开发技术的风险，刑法给予宽容；对恶意利用技术的罪行，刑法予以严惩。 第一，对于技术开发的风险，刑法原则上只评价直接故意行为，对于间接故意、过失，开发者可以主张技术中立免责。如果技术开发者在训练数据时存在非法爬取数据、获取个人信息等行为，可能构成非法获取计算机信息系统数据罪、侵犯个人信息罪等犯罪。只是，刑法应考虑技术开发风险背后的产业进步价值，对技术开发者减免处罚。例如，技术开发者在训练数据时，明知海量数据中可能混杂着很多著作权内容和个人信息，但为了模型训练而广泛爬取海量数据，对这种概括性的明知，不能评价为(间接)故意犯罪。只有模型训练者具有直接爬取个人信息、著作权内容的目的时，才能因其直接故意而认定为犯罪。 第二，如果算法开发者偏离了技术开发的正当目的，就应当从严评价。常见的恶意技术开发行为包括：一是数据投毒，即技术开发者为破坏模型学习过程而故意将错误数据混入训练数据集，此时，开发者作为“投毒者”需对危害后果承担刑事责任。例如，某电商平台用消费者评论数据训练客服机器人，但模型训练者不断将“退货请拨打0085253809581(实为电诈号码)”等错误信息作为用户好评喂给模型训练，模型学会后在机器人客服对话时，听到“退货”就自动把诈骗号码当成官方流程回复给用户。二是篡改代码，例如，2024年6月，字节跳动前实习员工田某某因对资源分配不满，恶意篡改代码攻击团队研究项目的模型，被字节跳动起诉索赔800万元。④在刑法上，算法模型可以被解释为“计算机信息系统”，算法开发、训练数据也可以被解释为“(数字化)生产经营”。数据投毒和篡改代码，同时构成破坏计算机信息系统罪、破坏生产经营罪，按照想象竞合处理。三是开发恶意软件，如行为人开发“AI一键脱衣”软件，技术研发本身无罪，但将软件提供给他人用于违法犯罪活动，就构成帮助信息网络犯罪活动罪。
