随着大数据技术的深入发展、机器学习算法决策的广泛应用,人类社会的结构、功能、制度等各方面,都经历着快速且深刻的变革。算法技术也深刻改变着政府的运作方式与治理模式,政府治理的智能化和数字化水平迅速提高,进入“数字政府”时代。政府在提供公共服务与进行公共事务治理的过程中,引入算法技术进行自动化或半自动化决策,以提高行政效率、节省行政成本,以期实现跨越时空的全方位多层次高质量治理。特别是新冠疫情暴发以来,以健康码及通行码的广泛应用为代表的技术工具,在政府防疫过程中所发挥的巨大作用,彰显了当下算法技术在政府治理中所蕴藏着的巨大潜力。然而,算法技术在行政决策、执法等过程中的不断扩张甚至异化,同时也带来了数字偏见、数字依赖、官员避责、目标模糊、价值偏离等一系列深层次连锁问题,这不仅依附于算法本身的黑箱和不透明特性所产生,更折射出技术发展无法突破和消解存在于制度层面的固有弊端。 目前已有一些学者就算法行政的架构原理、本质特征等基本概念界定进行探究,并对算法行政对法治造成的挑战进行分析,提出相应的法律规制解决方案。[1]现有的研究主要从算法黑箱、算法偏见、算法歧视的概念出发探讨算法可能带来的风险与挑战,并从行政法的角度分析算法风险的法律规制,主要聚焦在技术层面,而对算法行政扩张产生的内在制度路径及治理策略的研究较少,缺乏深入的系统性讨论。因此,本文着重从制度逻辑的角度出发,深入分析数据化智能化背景下,政府运用算法技术进行公共治理过程中所存在的制度性困境,并据此提出切实可行的对策建议。 一、算法行政扩张的概念框架 算法行政这一概念最早由鲁夫罗伊提出,他将治理术引入数字领域,并提出算法治理术(AlgorithmicGovernmentality),即算法行政这一全新概念,意指数字社会中基于算法而产生的全新权力机制形成的一种全新治理模式。[2]在数字社会,国家治理不再仅仅依靠政治和经济手段,而是通过数字技术和算法进行自动化操作和决策,该种规制模式可称为算法行政。[3]算法行政在实践运作中呈现两面性:一方面,算法技术在速度、效率、精准度等方面所具有的优势大大提高了政府行政治理的效率,有助于为公民提供更加精准个性化的公共服务。基于海量数据的信息收集与整合也进一步提高了行政决策的理性度与科学性,使得全方位、全天候、全过程政府成为现实。另一方面,算法行政的扩张也带来了众多潜在的不可预估的风险,如算法技术成为官员转嫁自身责任的保护衣,将本应由政府官员承担的行政责任推脱至机器算法上,形成一套推卸责任的话语体系,即“有组织的不负责任”现象。 (一)算法行政扩张的具体表征 算法行政的扩张呈现出涉及范围广、影响程度大、牵扯资源多、触及利益深等表征。一方面,算法行政如今被政府运用到社会生活治理的各个领域,从环境治理到交通管制,从公共服务提供到医疗教育卫生提供,都能够发现新技术赋能所带来的政府治理能力的有效提升。算法权力深入内嵌于政府职能结构中,涉及公民生活的衣食住行等各方面领域,都可以看到算法技术赋能行政的身影。可以说,算法技术因其实用主义的特点在政府部门中得到广泛运用,通过嵌入政府运行机制并成为政府行政运作流程不可或缺的一部分,对公民的利益与权利产生直接有效的影响。多数情况下经算法自动化程序自动生成的决策即为最终定局,造成基层官员自由裁量的空间狭小,公民进行个人权利救济申诉变得困难。 另一方面,在公共行政过程中运用算法技术,需要大量人力物力财力的投入,算法行政本身存在和运营维护的成本就是巨大的。同时,技术本身对政府内部的人员调整、部门整合、职能重组等都提出了新要求,行政部门内部为进行算法行政所发起的变革,必然涉及内部资源的重新分配。因此,算法行政在收集数据、整理数据、运作数据、输出结果全过程中都要把社会相关公共资源纳入进来,并通过最终决策切实影响到各类资源整合。 此外,当前不少地方政府都将技术运用能力,作为衡量地方官员治理能力与治理水平的重要标准,于是,地方上出现了不少大兴电子政府面子工程的现象。同时,目前数字化平台大多由大型科技公司搭建,政府通过与大型互联网私人企业合作外包的方式,来构建政务信息平台,这其中也牵扯到私人部门是否会利用技术之便,入侵公权力以实现企业自身利益的隐患。最后,算法行政的最终目的仍是为公民提供公共服务并进行社会治理,这切实关系到每一位公民的权益。 (二)算法行政扩张的潜在影响 首先,算法行政的扩张为政府官员逃避责任提供潜在空间。算法的复杂性、灵活性、不可知性等特性对依法行政、行政公开、行政公平、正当程序等行政基本原则造成侵蚀。技术的发展使得权力由官员流向技术,而技术是中立的、理性的、刻板的,只能在一定程度上作为行政决策与政府管理的辅助手段,而无法完全代替行政官员的执法地位。算法行政造成各级官员的职权与责任模糊,为其将责任推托于中立的算法技术提供了可能,以逃避不利于自身的后果。政府希望通过技术治理来实现超然、客观和中立的治理目标,而国家通过技术治理的窗口,看到的不过是自己的背影。[4]