一、引论 2025年4月，习近平总书记在中共中央政治局第二十次集体学习时强调，“推动我国人工智能朝着有益、安全、公平方向健康有序发展”①。随着机器学习、人工神经网络和大语言模型等技术的不断发展与演进，人工智能逐渐从基础研究进入包括公共服务在内的广泛行业领域。在政务、医疗、交通、安全等诸多关键性系统中，人工智能更是表现出了颠覆性创新的潜力，包括了解民众需求、评估政策效果、快速诊断疾病、预测流行性疾病、提升交通效率、改善食品安全等。 公共服务在智能化发展方面潜力巨大，但由于公共服务涉及众多利益相关者，需要平衡效率、公平和责任等多重价值，也就更加可能触发信任、伦理和透明度的问题，有必要进行专门的研究。目前，国内关于人工智能风险的研究逐渐增多，但主要聚焦與情管理②、风险感知③、治理工具④等领域，专门探讨人工智能公共服务风险防控的研究相对较少⑤。考虑到基础模型开发者和人工智能公共服务提供者在系统控制、运行逻辑上的不同⑥，针对两者的风险防控也需要实施差异化、针对性的策略。本研究旨在回答以下问题：在公共服务系统中，人工智能的哪些技术局限性容易引发治理风险？人工智能公共服务风险有何特殊之处？如何设计风险防控体系来应对挑战？ 二、人工智能公共服务的兴起及其治理风险 从本质上看，人工智能是通过设计实现的应用科学和工程技术，是有意、结构化和可控的过程，依赖于人类的目的性决策和技术实践，设计是人工智能的核心。⑦在管理领域中，基于设计视角的理解意味着人工智能可以被视为创造有益物品与服务的技术实践。现实中，人工智能的确能引发服务业的创新和革命，如制造实现服务流程自动化的机器人，基于大数据和机器学习定制客户偏好、优化客户体验等。相应的，学术界也逐渐形成“人工智能服务”的专门概念⑧，用来界定人工智能所提供的高效服务解决方案。根据智能化的程度不同，人工智能服务可分为三种类型：一是机械型，用于简单性、标准化、重复性和常规化任务，智能化水平较低；二是思考型，用于系统性、基于规则且定义明确的任务，能分析大数据并做出具有一定直觉化的决策，这是当前应用的主流；三是情感型，用于社交、情感、沟通和交互任务，智能化水平较高。在实践中，人工智能服务应用的场域包括人工智能支持的服务(如协助诊断疾病)、人工智能增强的服务(如实时语言翻译)和人工智能执行的服务(如机器人进行自动决策)等。当前，我国多地已发布人工智能示范应用场景，其中涉及人工智能服务的占一大部分，包括智慧银行、智能诊疗、智能驾驶等。 从应用场景上看，人工智能服务正呈现从简单辅助到复杂自主的演进趋势，且逐渐扩展到公共领域，成为公共部门改善民众体验、提升效率的重要手段。根据技术嵌入的不同层次，已有的实践应用可以归纳为以下三个层面。一是在机械型智能方面，大量使用聊天机器人等虚拟代理来提供政府服务信息或回答询问。2025年1月，中国企业“深度求索”推出性能优越、性价比突出的开源模型DeepSeek之后，已有多地政务系统接入该模型，“数字员工”“AI公务员”开始大规模上岗。与人工服务代理相比，它速度快、易于使用、可解释并能减少繁文缛节。⑨二是在思考型智能方面，已经形成“智能税务”“智能网格”“智能交通”“智能安全”等一批行业智能系统，其能够通过数据分析、推理和预测，模拟“思考”过程，解决公共服务中的复杂问题，如灾害响应和预警、诈骗检测与预防、公共安全与交通管理优化等。三是在情感型智能方面，通过智能身体与物理环境动态交互来实现感知、学习、决策和执行的具身智能(Embodied Intelligence)，人形机器人能够提供拟人化、更具有沉浸感的公共服务使用体验，已有多地开始探索家庭服务、政务服务、养老、消防等领域的人机共生应用。 随着人工智能公共服务越来越普遍，关于其误用、滥用可能引发的社会风险正受到越来越多的关注。有研究指出，生成式人工智能嵌入公共服务过程中存在隐私保护、算法透明、算法偏见、数字鸿沟、责任模糊和政策失灵等风险源。⑩尤其在医疗、法律等专业性较强的公共服务领域应用人工智能，可能会损害专业服务提供者与接受者之间的信任关系，引发服务行业中的“劣币驱逐良币”现象。(11)人工智能公共服务引发的治理风险，可以根据偏见、隐私和代理权(Agency)等不同层面的技术特性来进行梳理。 一是偏见和可解释性的治理风险。随着人工智能系统能够处理和分析更多的数据，其输出变得越来越难以解释和理解，这就是所谓的“黑箱”问题。在医疗、教育和福利等领域，人工智能系统的决策通常影响到个体的生命健康、教育机会和社会福利。“黑箱”问题使得算法设计和数据使用不透明，容易导致某些群体在决策中被边缘化或遭遇歧视。公共服务往往深嵌于现实的社会结构，这些历史数据很容易反映出现实中的社会不平等现象。一个来自教育系统的典型情境是家庭贫困学生可能因为经济原因影响而成绩较差，但人工智能系统在训练这些数据时缺乏反思能力，很容易形成家庭贫困者学业成绩较差的社会偏见。人工智能系统会基于历史模式进行预测和优化，但它不会主动进行“结构性修正”，不会因为历史上某群体被边缘化而给予其额外机会，也不具备判断哪些数据嵌入了社会刻板印象的能力。
