2020年9月8日，一篇《外卖骑手，困在系统里》的文章引起了社会广泛讨论。人们讨论的议题由平台用工到平台背后的算法。文章开篇即提出一个至今仍值得反思的问题：数字经济时代，算法究竟应该是一个怎样的存在？①近日，由人工智能实验室OpenAI开发的ChatGPT聊天机器人火爆全网。我们在为ChatGPT颠覆人们既有认知而惊叹之时，依然应当思考：人工智能时代，算法是怎样的存在？以及在未来的算法社会治理中，算法应当是怎样的存在？客观而论，困在系统里的何止是外卖骑手，我们每个人随时随地都可能被“系统”困住，这个系统就是算法。当前，算法无处不在。从在线搜索、媒体社交到智慧医疗、智能城市，再到预测性犯罪、自动化行政，算法已经嵌入人们生活的方方面面。可以说，我们已经生活在被算法治理着的社会——算法社会。 在算法社会，算法治理在为人们带来便利的同时，也给人们带来了种种难题与困扰。比如，基于算法的用工平台如何保障员工权益？算法分配医疗资源、教育资源过程中如何实现公平公正和社会福利最大化？如何实现算法精准预测犯罪？自动化行政领域如何保障公民的知情权、参与权，以及实现算法问责与行政问责的有效衔接？等等。总而言之，如何有效控制算法“权力”，防范其异化风险，确保算法为人类服务而不是人类被算法“统治”，恐怕已经成为算法治理中最重要的法治困境。为了及时回应和有效解决算法治理带来的种种危害以及未来可能出现的诸多风险，国内学界与实务部门逐渐将目光转向了算法审计，希冀算法审计能够发挥规制算法的独特效能。 2022年6月22日，中共中央全面深化改革委员会第26次会议明确指出“推动算法审计”，会议通过的《中共中央国务院关于构建数据基础制度更好发挥数据要素作用的意见》强调建立“算法审查制度”。不少专家学者力推算法审计。比如，有专家呼吁借由算法审计解决“大数据杀熟”问题②；也有专家直言“推动算法审计大有可为”，并分别从内部视角和外部视角论述算法审计的作用③；还有专家主张借鉴国际经验，明确算法审计的路径、具体框架和评估尺度，进而构建我国的算法审计制度④。面对“未来已来”的算法社会，法学界已有学者着手算法审计制度研究，探索构建未来我国的算法审计制度。鉴于此，本文尝试探索我国算法审计制度的法治化建构。首先，描述算法治理中的挑战，以及反思既有算法规制思路的结构性不足；其次，聚焦算法审计的独特性，阐释算法审计的制度内涵、功能；再次，提出我国构建算法审计制度的基本思路。 二、算法治理的法治挑战及既有规制思路反思 算法社会图景中，算法治理（algorithm governance）成为社会治理的主导模式。对此，有学者总结出算法治理范式的基本特征：治理合理性增加（increased rationality of governance）、权力运行移转（shift in the functioning of power）、决策程序封闭（closure of decision-making procedures）。作为一种新型社会治理范式，算法治理在便利人们生活的同时，也带来了诸多挑战。 第一，“大数据杀熟”问题。相同质量的产品或服务本应该一样价格，可是老顾客看到的价格却比新顾客看到的价格要高，这就是平台经济时代经常出现的“大数据杀熟”（big data swindle acquaintances）。在我国，“大数据杀熟”在很多领域出现，比如网络购物、酒店预定、网约车出行等。相关新闻报道和司法案例层出不穷⑤。“大数据杀熟”属于商家单方面增加了交易成本，严重损害了消费者的信任，是最需要关注的算法歧视问题。 第二，信息茧房问题。信息茧房（information cocoons）概念源于美国学者桑斯坦所著《信息乌托邦——众人如何生产知识》一书。在其最新著作《标签——社交媒体时代的众声喧哗》中，桑斯坦指出，人们习惯性接受感兴趣的信息，久而久之被困在只有自身感兴趣的信息“茧房”里。近年来，信息茧房问题在我国也越发突出⑥。信息茧房对个人和社会造成的危害是深远的。于个人而言，由于难以甚至无法收到多元化的信息，某一种立场观点反复出现并不断强化，逐渐认为该种观点即代表了全部，个人独立思考的意识与能力慢慢减弱，久而久之出现智识的退化。对社会来讲，多元信息的自由流通受阻，信息“偏食”不断强化，谣言兴起并不断传播，长此以往可能出现“文化部落主义”（tribalism），进而导致舆论极化和群体分裂，不利于公民社会的形成与发展壮大。 第三，算法行政中存在的问题⑦。2017年国务院印发的《新一代人工智能发展规划》明确提出“智能政务”概念，并提出若干设计方案。2022年的《关于加强数字政府建设的指导意见》（国发[2022]14号）更是明确提出“构建数字化、智能化的政府运行新形态”，并对政务智能化运行提出了更为细致的制度设计。当前行政管理实践中，算法广泛应用于交通违法行为罚款、行政审批、社会信用体系建设等领域。算法的应用的确极大地提高了行政效率，有助于行政管理精准化。然而，算法行政也产生了一系列问题。比如，行政自动化决策对行政正当性构成严峻挑战。又如，算法应用挑战传统行政问责制，存在消弭问责机制的倾向。原因在于，算法技术应用于行政管理，行政问责机制存在由“行政问责”走向“技术问责”、责任主体由“行政机关”变为“技术企业”的倾向。另外，也有研究指出算法治理将消解人的自主性，威胁“人的尊严”这一现代政治和法律的核心价值。
