模型算法是数字化技术的底层核心要素，它是指通过建立含有统计计算、经济理论和技术假设等内容的计算方法或系统，将输入内容进行定量输出，同时用计算机来解决某些问题的自动化决策过程。模型算法在提升部门工作效率和自动化水平的同时，也增加了合规风险、技术风险和伦理风险，其对应的分析、治理和监管都面临严峻的挑战。 我国对模型算法开展审计监督的呼声越来越高，在2019年第一次金融科技峰会上，有专家表示有必要建立和完善模型算法审计机制，以确保模型算法在智能决策中的合法性、可靠性和合理性。中科院院士姚期智在2021年国际智能投研开发者大会上提出，大数据与人工智能的发展将驱使金融科技的监管逐渐演化为模型算法的监管，建议加强模型算法的治理与监管。审计作为党和国家监督体系的重要组成部分，将模型算法纳入审计监督的范围，充分发挥审计“治已病”“防未病”的重要功能。目前从国内外现有实践来看，模型算法的风险在积聚且日益凸显，对模型算法的审计理论和实践却远远落后，因此，迫切需要构建模型算法审计的理论体系。 二、模型算法审计：理论内涵及现实价值 （一）模型算法审计的理论内涵 在人工智能和大数据时代，模型与算法是经常被提及的词汇，两者经常交替使用，难以分辨，因此，本文并没有严格区分模型审计与算法审计，而是将其统称为模型算法审计。在已有的文献中，鲜有文献提及“模型算法审计”这一概念，究其原因，可能有以下两点：一是模型算法在政府决策和企业管理等方面的应用虽然比较广泛，但还处于初级阶段，审计对其涉及较少，还未形成独立的审计理论和审计方法体系。二是目前模型算法产生的问题还未引起审计足够的重视。 涉及模型算法审计概念的文献并不多，已有一些文献从法律规制、制度构建、治理范式、实践现状等多个维度进行研究，也涉及算法审计的内涵要素，比如算法审计是一种审查算法的种族阶级、性别歧视以及与社会规范交互关系的方法（Sandvig等，2014），通过收集算法使用的数据，以评估算法的合法性和公平性（沈艳等，2022）等。基于已有文献提出模型算法审计的内涵要素，本文将模型算法审计定义为审计机构依据法律、法规和政策规定，对政府部门、企事业单位等模型算法的管理运用情况、产生的影响、存在的风险等进行的审计监督。 概括而言，该概念透视出了模型算法审计的五个关键之处：一是模型算法审计意味着审计对象是模型算法，而非利用模型和算法进行审计。二是通过对审计对象使用的模型算法进行全方位、多层次的审计监督，密切关注他们对模型算法的顶层设计以及从开发、测试、验证到模型算法停用等全生命周期的管理运用情况，以及使用模型算法过程中可能产生的问题和风险，以维护政府、社会和公众的利益。三是模型算法审计既可以通过外部审计，也可以通过内部审计实现，共同目标是发挥审计在党和国家监督体系中的重要作用，对有较强影响力的模型算法进行审计监督。四是模型算法审计是对被审计对象使用模型算法情况的一种监督，它不仅局限于对模型算法的一般性检查，还包括对模型算法的调查和分析。模型算法审计更偏重于经济监督以及模型算法带来的风险，与行政监督和司法监督等监督形式有所区别。模型算法审计具有独立性、专业性和权威性，是其他监督模式的有力补充。五是模型算法审计不同于信息系统审计。信息系统审计主要审查被审计单位信息系统的安全性、可靠性和经济性，揭示信息系统的硬件、软件和人员等存在的问题。模型算法审计主要关注信息系统运行背后的模型和算法，较少关注信息系统的硬件，但是两者可以结合起来。 （二）模型算法审计的现实价值 一是防止模型算法滥用，维护公共利益最大化。随着社会数字化转型，模型算法已深入政务、交通、司法等多个领域，在提高政府运行和决策效率的同时，滥用模型算法也会损害公共利益。一些互联网平台、技术外包公司利用模型算法决策侵犯公众权益的问题层出不穷，甚至通过模型算法进行价格合谋，形成市场垄断，可能导致算法被资本利用（庄尚文和陈王薏，2021），容易出现权力滥用和谋取私利等问题，如“黑名单”“失信惩戒”（张爱军和李圆，2019）等。此时，迫切需要建立外部审计监督机制，及时揭示模型算法存在的薄弱环节和潜在的风险隐患，为维护公共利益最大化发挥重要作用。 二是强化模型算法管理运行，防控模型算法风险。健全的模型算法风险管理体系是防范模型算法风险的关键一环。模型算法风险具有客观性、长期性和可控性。模型算法风险可以通过有效管理加以控制，并减少损失。模型算法管理运行涉及的方面非常多，无论是内部的模型算法责任主体还是外部的模型算法监管主体，都需要审计监督的约束规范。模型算法审计能够结合模型算法的特点和产生风险的原因，强化模型算法管理，防范模型算法带来的合规风险、技术风险和伦理风险。 三是打开模型算法“黑箱”，提升政府运行的透明度。“黑箱”是控制论的一个概念，常用作比喻，是指人们不知道的、既无法开启也无法直接从外部观察内部状态的系统（邢会强等，2019）。由于模型算法本身的复杂性和排他性，对于政府和公众来说，模型算法犹如一个未知的“黑箱”。通过模型算法审计，及时披露审计信息，打开模型算法的“黑箱”，促进政务公开，提升政府运行的透明度，加强行政权力监督，让政府基于模型算法的决策在阳光下运行，解决政府和公众的信息不对称问题，提高政府执政能力，推进国家治理现代化。 三、模型算法审计理论前沿：国内外文献综述 （一）模型算法风险的界定 近年来，随着越来越多的业务系统嵌入模型算法，与传统的模型相比，现在的模型算法均通过了大规模的数据训练，并广泛应用于反欺诈、反洗钱、个性化推荐、人脸识别等各个领域，提升业务效率效能（李成，2021）。随着模型算法变得越来越复杂，它们的可靠性也逐渐降低。从风险来源看，模型算法风险是指模型算法自身缺陷或使用不当带来的风险（孙海刚和郭学涛，2021）。从应用类型来看，金融市场主要有定价和风险管理两类模型，定价模型的风险被定义为“不能准确评估市场价格”的风险，风险管理模型的风险被定义为“不能精确估计未来损失发生概率”的风险（刘吕科，2012）。从模型算法涉及的因素来看，模型算法风险一般分为数据风险、样本代表性风险、技术风险等。James Barrett（2018）提出，不能仅仅关注孤立的模型算法风险，而是要着眼于模型算法运行的基础设施和运营环境。
