算法制任：理论证成、全景画像与治理范式

作 者：
肖红军 

作者简介：
肖红军，中国社会科学院工业经济研究所。

原文出处：
管理世界

内容提要：

随着算法时代的来临，算法责任缺失与异化现象频繁出现，引发普遍的算法焦虑甚至算法危机，但目前对算法责任和算法责任治理的研究尚处于起步阶段，研究系统性和深度都存在不足。本文从理论证成算法责任命题的正当性与合理性出发，认为算法承载“代理者”角色是算法责任产生的认知基础，算法存在的社会嵌入、算法主体的价值迁移和算法结果的社会影响等算法的多元价值戴荷是算法责任生成的根本缘起，算法权力崛起孪生出匹配性的算法责任、算法滥用催生出约束性的算法责任是算法责任出场的现实逻辑，而算法责任的综合性、代理性和隐蔽性特点则是其作为一个新命题出现的合理性所在。基于不同时期对算法本质与算法责任本质认知的演变，算法责任观经历了技术中立视域下的责任否定观、技术伦理视域下的道德算法观、人技信任视域下的“可信赖的算法”观、社会责任视域下的“负责任的算法”观的流变与迭代。作为构建“负责任的算法”的基础，算法责任的完整画像由责任缘起、责任性质、责任基础、责任主体、责任对象、责任内容、责任程度和责任机制等8个构面构成，并在算法作为纯粹执行者、辅助决策者和独立决策者情形下呈现出差异化的画像“拼图”。本文结合治理要素即对“人”的治理、对算法的治理、对社会的治理和责任机制即社会责任融入、负责任研究与创新、敏捷治理，构建了算法责任综合治理范式的九宫格模型，构造出算法责任治理的9种方式。在此基础上，构建了算法责任治理方式与不同算法场景的适配性矩阵，提出在算法责任治理中政府应当加快算法责任制度供给与创新算法监管方式，企业需要全面落实算法责任议题与构建可持续性算法商业模式。


期刊代号：C31
分类名称：创新政策与管理
复印期号：2022 年 07 期

关 键 词：
算法  算法责任  社会责任  数智经济 

字号：大中小

      算法、数据和算力是数智经济的3个基本要素，而算法更是数智化决策的基础，是数智经济的生命力所在，成为数智经济时代的“基础语言”（张欣，2019a），由此数智经济在某种程度上被称作“算法经济”，与之相伴随的则是所谓“算法时代”的来临（Danaher et al.，2017）、“算法社会”的出现（Balkin，2018）和“算法生活”的涌现（Del Casino et al.，2020）。无论是数智化技术对经济社会发展的积极增进功能，还是数智经济演化过程中引致的众多社会问题，其在底层逻辑上基本都依赖于算法予以实现。特别是，算法具有“颠覆性潜力”（凯伦·杨、马丁·洛奇，2020），一方面无处不在的智能算法深刻改变了人们的生产生活方式甚至社会形态，另一方面有意图的或非故意的算法不当以及所谓的“算法污染”（Schultze et al.，2018）往往是数智经济负外部性的深层来源，负责任的算法对于构建可持续性数智经济和更加美好的社会至为重要。

      然而，现实中大量的算法失当现象经常在多个场景出现，算法歧视或算法偏见、算法共谋、算法垄断、算法黑箱、算法遮蔽、算法伦理缺失、算法短视、算法霸权、算法操纵、算法劫持、算法剥削等算法问题不断涌现。典型的如：算法歧视中的“大数据杀熟”，国内多个外卖平台、出行平台、购物平台、差旅平台、视频网站都被曝基于大数据对用户进行画像，依托算法实施“熟客卖高价”“千人千面”“千人千价”的“杀熟”行为。算法偏见中的“种族歧视”或“少数群体歧视”，前者的著名例子是Google开发的自动图像标记软件曾经将黑人照片识别并标记成“大猩猩”，一些美国法院引入的犯罪风险智能评估系统COMPAS在评估罪犯的再犯罪风险时存在明显的歧视黑人罪犯情况（刘友华，2019）；后者的代表性事例是亚马逊曾经开发“算法筛选系统”用于招聘中的简历筛选，但算法明显偏好于男性应聘者而歧视女性，另一个教科书式的示例是比利亚雷亚尔（Villarreal）诉雷诺烟草公司（Reynolds Tobacco Co.）案（汪怀君、汝绪华，2020），反映出算法依据年龄筛选应聘申请人的年龄歧视。算法推荐引致的“信息茧房”困境与“回音室效应”，以今日头条、抖音为代表的APP通过智能算法重复地向用户推送所谓“感兴趣”的内容，这种单纯基于兴趣导向的算法推荐限制了用户获取多样化的信息，使其被束缚在智能算法所构建的“信息茧房”和“回音室”里。算法操控导致的人被技术所“异化”，2020年9月《人物》杂志微信公众号推出的《外卖骑手，困在系统里》一文，揭示了外卖平台算法对骑手的斯德哥尔摩效应式规训和“冰冷”控制，将外卖骑手变成马尔库塞言下的“单向度的人”。这些多样化的算法失当现象引发社会普遍的算法焦虑甚至一系列算法危机，由此算法甚至被认为是“怪物”（Schultze et al.，2018）。

      算法失当及其引发的算法焦虑问题越来越多地受到学术界的关注，狭义与广义的算法责任逐渐进入法学、伦理学、经济学、管理学、社会学、技术哲学、新闻学的研究视域，直接聚焦或间接探析算法责任治理的研究开始成为热点，并集中于两个方面：一是综合性算法责任及其治理研究，重点是算法责任机制、算法伦理。对于前者，算法在社会领域决策中的应用不断增加，催生对负责任算法的需求日益强烈（Binns，2018），因此应提高算法决策的公平度、问责性和透明度（Lepri et al.，2018）。算法被认为承载着价值观而非中性，企业不仅对算法负有责任，而且对设计算法中的“谁做什么”负有责任（Martin，2019）。浮婷（2020）综合透明度视角、利益相关方视角、负责任研究与创新视角，构建了算法责任机制的概念模型，阐释了算法责任不同要件的逻辑关系。张凌寒（2021a）从问责制的视角研究了平台算法责任如何生成，以及针对“责任鸿沟”问题如何构建算法问责制。对于后者，算法所引发的伦理问题变得越来越突出，包括算法的自主性所引发的伦理问题、算法在应用性场景下的伦理问题和算法的归责性困境问题（孙保学，2019），因此算法决策需要考虑伦理因素（Gerlick and Liozu，2020）。算法伦理研究主要涉及算法伦理的困境生成、理论前提、价值基础、基本准则和实现进路（Hauer，2018；刘培、池忠军，2019；郭林生、李小燕，2020；匡文波，2021）。二是特定性责任失当问题及其治理研究，包括算法黑箱（Zerilli et al.，2019；浮婷，2020；吴椒军、郭婉儿，2021）、算法歧视（，2017；崔靖梓，2019；张恩典，2020；李丹，2021）、算法共谋（Ezrachi and Stucke，2017；Gal，2019；时建中，2020；Beneke and Mackenrodt，2021）和算法操纵（大卫·萨普特，2020）等各种算法责任的缺失与异化现象。一方面，大量研究关注于各种特定性算法责任失当现象的概念、分类、危害和成因，另一方面，许多学者针对各种算法责任缺失与异化问题提出治理方式与治理策略。比如，在算法治理与算法规制研究中，许多都是针对特定性算法责任失当现象的治理（Saurwein et al.，2015；Yeung，2017；D'Agostino and Durante，2018；Ulbricht，2018；Cristianini and Scantamburlo，2020；阳镇、陈劲，2021）。

相关文章：