算法(algorithm)描述的是一种计算过程，其通过输入特定的初始值或数据得到期望的结果，从而将输入转化为输出。①自动化决策系统(automated decision systems)通常被定义为利用算法和机器学习模型自动进行数据分析并作出决策的系统。②因此，算法自动化决策强调的是计算机系统的自我学习与决策能力，属于人工智能技术的范畴。在平台用工领域中，算法自动化决策起到关键性的管理作用。平台企业在使用算法进行日常的用工管理的过程中，利用大数据技术不仅能够快速高效地匹配用工需求，还能实现对平台从业者③劳动过程的监控与评价。但是，算法给平台从业者权益保障带来的挑战日益凸显，禁用“最严算法”、要求驯服算法等呼声高涨。④ 为防范自动化决策的潜在风险，引入人工监督(human oversight)被视为核心手段之一。国内学者从不同视角对该问题进行了研究，主要集中在对自动化决策过程的人工干预(human intervention)问题上。然而，与人工干预不同，人工监督所涉范围更加广泛，包括算法设计、部署以及决策的各个环节。⑤欧盟在2016年的《通用数据保护条例》(General Data Protection Regulation，EU Regulation 2016/679，简称GDPR)中采取了人工干预的表述，但是在其最新的《人工智能法》(Artificial Intelligence Act，EU Regulation 2024/1689，简称AIA)和《关于改善平台工作条件指令》(Directive on Improving Working Conditions in Platform Work，Directive(EU)2024/2831，简称PWD)中均使用了“人工监督”的术语，以强调人类介入对于算法全流程管理的重要性。 以算法对平台从业者作出自动化决策为节点，可将人工监督介入分为事前人工监督和事后人工监督。事前人工监督更加关注算法规则制定或修改以及算法自动化决策作出前的人工介入，以防范不利后果的产生。欧盟关于人工智能的白皮书指出，为了消除自动化决策可能引发的不利影响，在重要风险领域引入人类的事前监督审查是关键举措。⑥故本文选择从平台用工算法管理的事前人工监督视角开展研究。⑦具体而言，首先，从理论层面阐释事前人工监督在平台用工算法管理中的必要性；其次，分析我国平台用工领域事前人工监督制度的现状与不足；最后，结合欧盟相关立法经验与我国立法特点，提出完善路径。 一、规制理念：平台用工算法管理应强化人工监督的事前介入 为确保平台用工算法运行符合人类社会基本伦理，预防其因技术偏差引发的不合理结果以及有效发挥人机协同功能，强化算法自动化决策的事前人工监督应当被视为算法管理的重要一环。 (一)确保平台用工算法符合“以人为本”的基本伦理要求 “以人为本”是人工智能技术发展的基本伦理准则之一，作为人工智能范畴的算法自动化决策应遵循该基本要求。联合国教科文组织发布的《人工智能伦理问题建议书》强调“在人工智能系统生命周期的各个阶段保护、促进和尊重人权和基本自由、人的尊严和平等”⑧，并明确将“人类的监督和决定”作为人工智能伦理的基本原则之一，强调人工智能虽可辅助人类，但某些关键事项仍应当交由人工监督。我国新一代人工智能治理专业委员会发布的《新一代人工智能伦理规范》第3条明确指出，人工智能各类活动应当“坚持以人为本，遵循人类共同价值观，尊重人权和人类根本利益诉求，遵守国家或地区伦理道德”⑨。 以人为本不仅要使新技术满足人的需求，还应包括保护个体权利、提升人类福祉的目标。人工智能嵌入以人为本理念，即指在人工智能的设计、开发与应用全过程中始终将人类置于核心地位，避免在追求技术发展和效率时以牺牲人类能动性、安全或权利为代价。人工监督被视为实现以人为本的重要程序保障，是人工智能问责机制的补充。⑩当人工智能技术被运用于劳动就业领域，且平台企业运用算法进行用工管理时，人的主体性亦应当被尊重，平台需要在以人为本的理念下发挥算法管理的多元化价值。(11)一方面，应当确保算法规则的设计与部署能够尽可能地融入人工监督，保证算法规则自身能够体现出以人为本的理念；另一方面，要确保自动化决策过程符合以人为本的原则，尤其是涉及劳动者权利义务的重要决定，不应完全由算法自动化决策作出，而是由人类作出，包括人类雇主。(12) (二)预防平台用工算法自动化决策的技术偏离 算法自动化决策的“黑箱”(black box)特性日益受到关注。由于算法自动化决策是在代码编译等技术层面搭建的，编写代码和理解代码都需要专业的技术知识，而且相较于静态的算法规则，自动化决策所依赖的机器学习技术也更为复杂，难以被解释和理解。(13) 在平台用工算法自动化决策中，算法“黑箱”引发的权益保护问题已经凸显。一方面，算法运行的底层数据存在“歧视”风险。自动化决策所依赖的数据集是由人类设计的，其可能存在歪曲、错误或者偏见。在数据挖掘过程中，决策者在定义目标变量、标记和收集训练数据、使用特征选择时均可能带入歧视性因素，在真实世界的数据集上训练算法，必然会复制现实世界的歧视因素。(14)另一方面，算法运行的参数规则可能存在设计缺陷。在设计和运行算法的过程中，如果过度追求竞争，会导致相关参数规则设计不合理，或者缺少对劳动者的人文关怀、对特殊情况的考量等，进而产生不合理的算法管理结果，容易形成“最严算法”的问题。(15)例如，在订单分配中，算法规则设计往往关注订单的质量和数据，考核基本任务量、在线率、投诉率、未完成工作的比例、客户取消订单的数量、任务完成的错误率等数据。如果将从业者在理想状态下的效率固化为常态考核标准，忽视休息时间、特殊天气或时段的差异情况等，会造成从业者为迎合参数而牺牲安全与健康。
