一、问题提出 在计算机、通信等信息技术迅猛发展与互联网广泛普及的推动下,数据得以高效、便捷且低成本地获取和存储,促使数字化信息呈现指数级增长态势,这为数字化管理提供便利。据统计,世界500强企业中,99%的企业都使用算法决策工具[1],算法管理已成为一种普遍性的劳动管理模式[2]。美国工程院院士汤姆·米歇尔(Tom Mitchell)教授认为机器学习是计算机科学与统计学的交叉,并将其定义为“利用经验来改善计算机系统自身的性能”[3]。机器学习决策的发展带来诸多优势,在用工匹配领域中,其能够提高决策效率、降低人力成本、统一评估标准等。我国高度重视人工智能技术发展,国务院印发的《新一代人工智能发展规划》①中多次提及“机器学习”的有关内容。2025年的政府工作报告中明确提出持续推进“人工智能+”行动②。 用工匹配属于人力资源管理的核心内容,其是指候选人的胜任能力与岗位的胜任要求的匹配度,涉及招聘、提拔、任务分配等多个阶段。《中华人民共和国劳动法》③(简称《劳动法》)第十二条规定不得就“民族、种族、性别、宗教信仰”实施就业歧视。《中华人民共和国就业促进法》④(简称《就业促进法》)第三章“公平就业”还禁止基于残疾(第二十九条)、传染病病原携带者(第三十条)、农村劳动者(第三十一条)等因素对劳动者进行就业歧视。在司法实践中,最高人民法院审判委员会发布185号指导案例⑤,将“不合理的区别对待”认定为就业歧视的判定标准。在人力资源数字化管理中,机器学习匹配决策背后的数据和编程可能潜藏偏见,将导致特定群体在就业中受到歧视。机器学习作为推动弱人工智能向强人工智能迈进的算法技术,在用工匹配领域的应用具有隐蔽性、易被操纵性、难以解释性等特征。如何确保算法的公正性和透明性,防止被决策者遭受不公正待遇成为一个亟待解决的问题。 现有算法歧视的研究大多不区分具体领域来讨论算法歧视规制。例如,针对算法解释,提出算法解释权在算法治理中的地位和功用[4],针对算法的法律规制,提出场景化规制原则[5],针对人工智能歧视的法律治理,提出反歧视法律数字化转型[6]。“场景化规制原则”应成为算法技术规制的基本遵循,理由在于算法技术运用主体、算法技术作用对象,以及算法技术所需实现目标的差异都会导致算法技术具有独特的属性[5]。用工匹配领域中,决策者与被决策者之间存在“实质不平等”,算法技术在该领域的应用具有劳动者权益的易损害性与权益救济的困难性。于是,针对算法决策中的就业歧视,有学者从性别角度切入,提出应具体化算法自动化决策规制的相关制度[7];有学者从年龄角度切入,提出规范招聘行为等措施在内的多维度全方位的治理体系[8]。上述文献均提出了针对性建议,但少有学者关注到机器学习技术开发与运用过程中“歧视生成逻辑”的共性,进而不能提供总体性建设意见。此外,机器学习决策具有“以数据获取知识”的特点,现有研究对其“训练数据”产生的就业歧视关注不足。在遵循促进技术开发与应用的前提下,本文旨在全面审视机器学习决策下就业歧视的生成路径,分析现有制度的困境,并探索有效的法治进路。 二、促进型立法下机器学习决策介入用工匹配的合理性 2022年,上海市第十五届人民代表大会常务委员会第十四次会议通过的《上海市促进人工智能产业发展条例》⑥,明确提出“促进人工智能产业高质量发展,强化新一代人工智能科技创新策源功能”。由于员工的素质与技能是企业发展的增长因素及真正的竞争优势,人力资源管理越来越受到重视。2023年中国企业数字化转型发展白皮书显示,中国企业已部署的人力资源数字化应用占比47.9%⑦,在企业数字化应用类别中位居第一。 (一)机器学习决策的效率性契合用工匹配的海量性需求 人工智能的发展对各行业效率提高和社会改善起到了巨大的推动作用。在用工匹配领域,有效地管理人力资源过程不仅对劳动者很重要,对决策者亦很重要。虽然自然人能够记住曾经见过的人及其某些特征,但如果有成千上万的样本需要识别,自然人将很难胜任该任务。但是,机器可以记住更多的样品。随着互联网的发展和大数据技术的进步,决策者开始有能力从海量样本中精准筛选出符合要求的劳动者,即运用人工智能机器学习的方法,帮助决策者在用工匹配中做出决策。机器学习技术是从数据中挖掘出有价值信息的重要手段,其通过对数据建立抽象表示并基于表示进行建模,然后从数据中汲取对人类有价值的信息。在运行原理上,机器学习决策主要通过预处理、特征选择、模型训练、预测评估等步骤进行决策。预处理是将原始数据转化为算法可读的格式,特征选择是选择对目标结果影响最大的数据特征,模型训练是基于选择的特征、历史数据及目标变量来训练算法,预测评估则是使用训练好的模型预测新的被决策者是否符合性能评估。研究显示,在用工匹配过程中整合人工智能,能够通过自动化筛选机制,使决策时间缩短75%[9]。基于上述特征,机器学习可以节省决策者的时间和金钱成本,使决策者在相同时间内接触更多的劳动者,并形成一个更多样化的就业池。 (二)机器学习决策的标准一致性契合用工匹配的公平性要求 早期的算法主要依赖于规则和统计方法,进入21世纪,随着机器学习的发展,算法越来越智能化,能够处理更为复杂的任务,该科学方法也让人力资源主管相信其擅长识别最佳劳动者。机器学习决策的竞争性优势在于,其能够在大型数据集上寻找连接,同时还能反驳传统的刻板印象。而人类更有可能依赖于无关的变量,在不知不觉中基于其明确或潜在的偏见来审查劳动者:一方面,人工决策会受到固有分工模式、思想意识及多维度的不平等观念的影响;另一方面,人工决策常带入自制的推算或简单假设,其实这些推断并没有意义,因为没有充分的数据科学进行支撑。例如,人们可能会说“我在职业生涯中观察到的最好的两位首席执行官都拥有法律学位,所以我们应该雇用一个拥有法律学位的首席执行官。”[10]但数据科学在此发挥的作用是非常有限的,自然人通常难以观察到某一职位角色的所有表现及相关可信的因素。相反,人工智能关注被决策者本身的优点和个性,以判断其是否适合某个职位角色,而不是专注于任意的无关特征。尽管在传统人工决策领域仍然存在着诸多就业歧视问题未能得到根本性的解决,但并不意味着不能在新兴的机器学习决策领域探索更加公正、无偏的决策模式。标准一致性作为公平的必要条件,确保了用工匹配决策的形式正义,通过统一规则避免主观偏好的任意干预。但需指出的是,标准一致性仅是平等就业的必要非充分条件,哪怕用工决策符合标准一致性,若标准本身有偏见,其依然可能造成不合理的差别对待,从而构成就业歧视。因此,只有在技术被正向引导的前提下,才能实现使用人工智能用工匹配来消除人工决策的偏见,为劳动者提供更公平的就业机会。