算法审计的制度逻辑和本土化构建

作 者:

作者简介:
张欣,对外经济贸易大学法学院副教授,对外经济贸易大学数字经济与法律创新研究中心执行主任,硕士生导师,研究方向为人工智能治理;宋雨鑫,对外经济贸易大学法学院博士生,研究方向为网络法。

原文出处:
郑州大学学报:哲学社会科学版

内容提要:

02


期刊代号:V3
分类名称:审计文摘
复印期号:2023 年 05 期

关 键 词:

字号:

      算法系统的广泛部署已在多层次、多场域引发社会治理风险。与一般技术引发的治理风险相比,算法的技术和应用风险更具复杂性、系统性。一方面,算法应用虚实结合、嵌入广泛,加剧了监管层的信息不对称,监管决策的制定缺乏有效的参考点。另一方面,商业秘密和知识产权制度的存在致使以算法透明和个体赋权为主线的算法治理机制应对乏力。这些结构性挑战推动了算法治理范式转向多中心、多场域、多路径、多模块的新型治理范式。在推动治理变革的前沿实践中,算法审计制度将技术、法律和伦理深度融合,以合理透明度和专业技术保证弥合算法黑箱和商业秘密间的制度张力,为构建事前预警识别机制、事中风险管控机制和事后责任追溯机制提供了有效决策参考,成为当下各国算法治理图景中日益引发关注的新兴治理工具。我国通过《个人信息保护法》《互联网信息服务算法推荐管理规定》以及《网络数据安全管理条例(征求意见稿)》(以下简称《网安管理条例(征求意见稿)》)等多部法律法规构建了算法审计的底层规则,并将其作为针对大型互联网平台和高风险自动化决策施行的特殊监管工具。但具体化、精细化、科学化的制度建构方案仍然阙如。本文聚焦算法审计制度,深度剖析其治理效能,凝练探析其构造原理和制度逻辑,紧密结合我国算法治理的客观现状,探索算法审计制度的本土化方案。

      一、算法审计的治理效能

      算法审计是由技术性和非技术性措施组成的审查算法系统一系列方法的总称。算法审计的范围包括从评估企业算法治理策略到设计和部署阶段使用的特定数据和模型机理。早在1970年,美国在住房政策中创建了种族歧视审查制度。此后,该项制度被创新性地引入到算法规制的相关立法中。例如,纽约市立法明确规定使用招聘算法的雇主必须进行年度偏见审计,否则禁止将算法用于求职评估。欧盟新近提出的《人工智能法案》第19条也要求高风险算法供应商对算法进行“合格性评估”。与国际算法立法趋势遥相呼应,我国《个人信息保护法》第54条、第64条规定了个人信息处理者的定期合规审计义务与个人信息保护强制合规审计义务。《算法推荐管理规定》第7条、第8条以及第24条进一步推动了算法审计制度在我国的生根落地。可以说,算法审计制度已成为全球算法治理实践中的基础工具,对于算法风险的识别、评估、预防和管理具有重要意义。

      (一)弥合算法透明与算法商业秘密保护的治理冲突

      长久以来,算法治理面临着算法公开与商业秘密以及专有技术保护之间的紧张冲突。作为人工智能的底层技术,算法技术依托海量数据资源及强大算力,广泛应用于电子商务、搜索引擎、即时通信、社交媒体等多元场景,为平台企业积累了巨大的经营和竞争优势。算法的商业价值化趋势日益凸显,各平台企业纷纷将算法技术视为企业的核心竞争力。从2020年轰动全球的TikTok禁令事件中,就双方是否出售其核心推荐算法展开的激烈博弈便可管窥算法在人工智能时代的商业价值以及战略意义。鉴于企业为算法开发投入高额成本、巨量资源,将商业秘密保护拓展至算法本无不妥,各国近期立法中也呈现对算法增强保护的立法趋势。但商业秘密的保护范围、保护程度不断增加,逐步覆盖和拓展至与算法有关的模型设计原理、变量特征、变量权重,使之成为科技企业逃脱算法责任、规避算法开发者义务的盾牌。

      与之相对,为确保算法的可问责性,技术正当程序规制理念将算法透明、算法公开作为对抗算法黑箱的基础原则。例如,《通用数据保护条例》以算法解释权为代表,创建私权制衡体系,以期赋予用户获知算法运行逻辑、系统功能、设计目的、设想用途和预期后果等信息的权利。美国《算法问责法案(2022)》则要求公共场景下算法设计者对算法源代码、输入数据等关键信息进行必要披露和公开。但算法黑箱的客观存在和商业秘密制度搭建的坚实盾牌致使算法透明原则的落地颇易受阻且实效不彰。无论是算法透明对开发者激励和行业发展可能带来的制度隐忧,还是算法代码和模型要素公开后来自“算法算计”的现实阻碍,算法透明原则与商业秘密保护之间的冲突与张力成了算法治理的一大难题。

      与开源为表征的算法透明框架相比,算法审计制度更为灵活、包容,可依据算法系统的透明程度做出因应性调整。即使面对“算法黑箱”,也能够绕开商业秘密这一制度堡垒,仅针对两端输入、输出变量做出必要的观察与分析。从完全封闭的“算法黑箱”阶段到理想化的“算法白箱”阶段,算法审计的优势在于能够合理划定审计公开的对象、范围,不断平衡调优“算法公开-商业秘密”的重叠地带,从而为算法治理提供有效的决策参考点。

      (二)助力企业自我规制与政府规制双轨协同

      算法模型动态更迭、实时更新,这一技术特性对治理的介入时点以及响应速率提出了较高要求。传统治理模式多以政府规制为主导,采取自上而下、事后介入的监管方式,治理效率迟滞,难以满足算法技术内生存在的灵活、动态、弹性等特质。为鼓励科技创新,促进行业发展,以美国为代表的一些国家逐步衍生出鼓励企业、行业自我规制的监管生态。从规制实效来看,企业自我规制可采的策略和手段更为丰富,规制启动成本更低,应对更为精准,且因具备更为充分的决策信息,能够将算法风险管理节点前置,已成为多元共建治理模式下不可或缺的治理环节。虽然平台企业自我规制优势颇多,但其弊端也不容忽视。因缺乏强有力的外部约束和问责机制,企业自我规制难以实现从算法预设计到部署和运行阶段的有效管理,企业自我规制常异化为抗拒承担主体责任、排斥政府监管的“护身符”。如何更为顺畅地协调、衔接企业自我规制和政府规制的关系,充分发挥二者规制优势而抑制其弊端,成为算法治理的又一挑战。

      算法审计制度兼容自愿审计和强制审计,一方面可容纳企业对算法系统实行差异化管理和风险控制的多元化需求,另一方面可为政府介入监管算法预留制度接口,在企业自愿审计之外对高风险、高影响算法系统实施重点监管。故算法审计成为协同、衔接企业自我规制和政府规制的有力杠杆,有助于实现二者并举不悖的治理目标。

相关文章: