犯罪治理算法的法律规制

　　一、犯罪治理算法的实践检视

　　随着“算法渗透型社会”的到来，运用算法技术预防和控制违法犯罪的算法治理成为平安中国建设的新兴模式，更构成了人工智能时代犯罪治理体系的底层逻辑。算法或基于政法机关的治理平台运行，或依托承担“看门人义务”的互联网平台落地，这两类平台由此成为算法治理的信息中枢、组织枢纽。目前，犯罪治理算法广泛用于街面犯罪地点评分、大数据反腐、维稳风控、大数据扫黄和网络犯罪风控等场景。其中，地点评分较少使用个人信息，而其他应用则多以个人信息作为风险研判的依据。

　　问题在于，算法治理在形塑高效智能的预防性秩序之时，也引发了其是否违背法治原则的争论。应当注意的是，犯罪治理算法与商业算法之间存在较大差异，对之规制是一个不易实现的难题。通过法律规制实现犯罪治理算法的可用性（效益最大化）与可信性（风险最小化）的均衡，已成为推进犯罪治理现代化和法治化的核心问题。

　　二、源自算法公平的正当性思考

　　我国《全球人工智能治理倡议》《人工智能安全治理框架（2.0版）》和欧盟《人工智能法案》等政策法规均将“公平性”作为算法规制的基本原则。算法公平成为算法规制体系建构的理论原点和价值基座。算法公平的核心要义在于，确保犯罪治理算法有序运行于预防性秩序建构和正当性权益保障的平衡之中。算法公平包括结果公平和过程公平，前者以算法结论的精准性与稳健性为前提，通过有效的损害救济程序与清晰的责任制度消除明显不公，推动各方主体的权利义务关系向着更公平方向发展；后者指向算法运行过程的公平性，注重算法运行的正当合法、公开透明、科学高效。

　　围绕结果公平和过程公平这对范畴，犯罪治理算法的法律规制形成了回应性规制和预防性规制两种模式。回应性规制通过算法救济及时回应受算法影响者乃至公众的申诉和控告，恢复因算法偏误或歧视而造成的负面影响；通过算法问责追究算法使用者不当使用的回顾性法律责任，确保算法治理的结果公平。预防性规制通过算法影响评估和算法公开等机制，要求算法使用者承担更全面的法定义务，确立规范算法权力的前瞻性法律责任，保障算法治理的过程公平。

　　通过救济和问责程序纠正算法偏误实属结果公平的应有之义，但囿于法律依据不完善，算法救济和问责的实现存在诸多困难：在救济方面，算法救济制度存在相当程度的法律空白，导致受算法影响者提出异议、申请纠正的权利难以获得保障。在问责方面，算法责任追溯面临问责机制缺失困境及因果关系模糊、责任边界不清等责任认定难题。此外，犯罪之算法治理的一般性规定过于原则和专门性规定相对薄弱，导致偏离过程公平的算法失范时有发生。第一，算法治理与职权法定的正当性要求存在差距；第二，算法治理有时偏离比例原则，对个体生活造成过度干预。第三，算法治理时常因黑箱问题有违正当程序。

　　由于犯罪之算法治理兴起不过十余年，相关规制体系建构尚处于起步阶段。对此，可行的思路是以算法公平的实现为导向，沿着回应性规制和预防性规制路径约束算法权力，通过算法救济和问责等回应性机制保障结果公平，依托算法影响评估和算法公开等预防性机制追求过程公平，以此建构兼顾结果公平和过程公平的算法规制体系。

　　三、犯罪治理算法的回应性规制

　　鉴于犯罪治理算法的偏误有时难以避免，回应性规制必须关注算法引致的负面影响，依托算法救济和算法问责机制保障结果公平。算法救济是对算法自动化预测结论的人工干预和修正。面对难以完全避免的算法误判，须针对不同的行为主体，从行政救济与民事救济两个方面予以完善。

　　从行政救济看，应完善“告知—申诉”与“核查—反馈”机制。在“告知—申诉”机制中，应明确执法部门之告知义务和告知时限，在以书面形式向受影响者披露决策事由、依据、影响范围等事项的基础上，还应告知受影响者所享有的申诉权利和申诉方式。在“核查—反馈”机制中，应明确作出决定或采取措施的部门开展实质审查的标准、时限及反馈方式。对维持算法决策结论的，应向受影响者书面说明理由；对决策结论存在偏误的，应启动撤销错误标记、解除关联限制、恢复受损权益等补救措施，并对由此造成的损害承担赔偿责任。

　　从民事救济看，互联网平台、金融机构等市场主体的算法风控对用户造成不当限制或损害的，受影响者有权向平台申诉，或提起民事诉讼要求市场主体承担侵权或违约责任。用户的民事救济多通过向市场主体申诉实现，也需具有外部性的民事诉讼予以补充。用户可要求市场主体承担继续履行、采取补救措施或者赔偿损失等违约责任；也可基于侵权事实要求市场主体承担停止侵害、排除妨碍、赔偿损失、消除影响等侵权责任。与纯粹的民事法律关系不同，当市场主体作为看门人承担犯罪治理职能时，用户对算法控制负有一定容忍义务。必须承认，容忍义务不等于豁免责任，需根据市场主体是否及时解除风控措施、决策合理性、处置规范性等事项，具体判断是否存在过错、因果关系和免责事由。

　　算法问责聚焦对算法致损后果的责任认定和追究，围绕特定场景明确算法使用者等主体的责任。一方面，当公权力机关的算法治理存在严重偏误等问题时，其责任追究方式既包括针对算法的及时修正或责令终止等矫正性措施，也包括针对相关责任人员的党纪政务处分等惩戒性措施。因犯罪之算法治理呈现强烈的“实验主义治理”色彩，故算法问责在更多场景下聚焦施行阻力小且反馈敏捷的矫正性措施。如果算法使用者在合理的时间内采取矫正性措施而停用或修正算法，后果被及时控制且尚未扩散，并经算法解释和算法审计表明算法致损是不能预见或无法避免的，则属于在现实条件下履行了审慎注意与风险规避义务。否则，应根据犯罪治理算法在数据质量、系统设计或判别规则等方面的缺陷，以及算法使用者的主观过错，判定相关责任人员就算法致损后果以及后果的扩大等负面影响承担行政或党纪责任。