一、问题提出 在数字技术革命的浪潮中,生成式人工智能与政务服务的深度交织成为政府治理现代化的重要特征。随着政府各部门数字化转型的推进,生成式人工智能技术向全社会展示了技术溢出带动性强的“头雁效应”,“AI+”也被视为解决政务服务低效、低质、单一化等问题的“万能灵药”。生成式人工智能的身份认证、在线客服、信息搜索等功能均在政务服务领域有着广阔的应用前景[1],在生成式人工智能的加持下,政务服务能够实现“身临其境”式的沟通升级[2],并可以进一步提升政务服务的速度、效率、个性化、多元性和创造性[3]。数字化、智能化转型成为各级政府的共识,更有甚者将“AI渗透率”“算法替代率”作为衡量政府数字化转型的重要指标。 当生成式人工智能技术从边缘化的辅助工具逐渐向决策中心靠拢,政务服务也面临从“人的治理”向“算法治理”过渡的危机。学界关注到生成式人工智能向各行业,尤其是政务服务领域的介入可能引发的诸多风险。早期的风险研究聚焦于技术本身,认为生成式人工智能技术与政务服务体系并未达到理想的适配。尽管生成式人工智能能够替代人类完成繁重的重复性任务[4],将公务员的各类任务自动化[5],但人工智能决策的可解释性问题依然严峻[6]。同时,在保证行政裁量标准化的同时,很难兼顾特定个案的处置,人机之间的裁量自由难以平衡[7]。固有技术与政务服务难以适配的问题,需要持续的模型优化予以解决。 随着研究的逐渐深入,研究者发现单纯的技术优化难以突破科层制固有的数据壁垒、规则刚性与部门割裂,视野逐渐转向塑造技术应用环境的制度结构。有学者认为,在公共部门部署自动化决策系统的压力日益普遍的环境下,现有的数据治理制度和国家监管会加剧权力不对称现象[8]。僵化的传统科层治理结构在面对生成式人工智能所带来的开放性与不确定性时,依然局限于“创新”与“安全”二维选择[9],制度设计在“求新”和“求稳”中踌躇。想要释放人工智能的技术红利,避免“数字民主”滑向“技术利维坦”,需围绕数据共享与算法优化建立健全开放的治理体系和治理机制,完善社会保障与权责体系,重塑社会治理格局[10]。 随着行为公共管理研究的兴起,以及实际应用中生成式人工智能所引发的隐私泄露、歧视偏见等伦理争议的集中爆发,研究视角进一步下沉至多元主体的互动实践,探讨技术嵌入过程中多元行动者的角色冲突与价值博弈。有学者指出,人工智能在政务服务领域的应用不仅涉及技术与制度的互动,更关乎公务员、公众、技术开发者等主体重构权力关系的实践过程。利用高科技工具和系统来收集和管理公共信息及服务的过程可能会沦为少数人的“利维坦治理”[11],造成严重的权力失衡[12]。算法下的政务服务可能会被数据、智能和技术精英所主导,而妨碍公务员的自主性、积极性,并使政务服务偏离为人民服务的本质[13]。因此,生成式人工智能在政务服务领域的应用需要平衡多元主体的多元利益,对于政务服务质量的评判不应仅停留在“经济、效率、效益”等功利性指标,而更应充分回应公平正义、权利保护及责任控制等价值目标[14]。 既有研究尽管从不同维度拓展了生成式人工智能驱动政务服务风险的知识谱系,但其内在的割裂化与静态化形成了一定的理论盲区。一是对技术、制度、关系三者动态互构过程中涌现的系统性风险缺乏解释力。将技术、制度、主体预设为边界清晰、彼此孤立的分析单元,剥离了它们在真实治理场域中固有的交织渗透与持续互动关系,忽视了技术系统与政务服务系统相互结合所形成的“界面”问题。二是研究视角静态化,多将风险视为既定技术缺陷、制度僵化或主体冲突的必然、静态结果,而非在新旧系统动态磨合、相互调适与意外冲突过程中涌现并演化的生成性现象。静态视角遮蔽了风险的演化轨迹,无力回答为何成熟的技术体系会在特定的制度环境下失效?为何旨在化解矛盾的政策调整有时反而激化冲突?现有理论未能将风险置于技术、制度、关系持续互构的复杂社会过程与时间流变中加以审视,从而低估了生成式人工智能应用于政务服务中风险的系统性、复杂性与动态演化本质。因此,为了识别生成式人工智能驱动政务服务过程中的风险类型,进而有效防范风险,本研究构建了基于“技术—制度—关系”的三维分析框架,剖析技术、制度与关系三者如何在动态互构中形成特定的交互“界面”,并由此引发、传导和演化出系统性风险的深层机理。 二、“技术—制度—关系”:生成式人工智能驱动政务服务的分析框架 在生成式人工智能深度重塑政务服务模式的当下,技术革新、制度适配与主体行动的交互作用呈现高度复杂的嵌套关系,单从技术效能、制度规则或主体行为的维度切入,难以完整阐释三者动态耦合的互构逻辑。界面理论以“交互场域”为核心分析单元,天然适配多要素互嵌的复杂场景,为破解技术、制度、主体间的互动逻辑提供了整合性视角。 (一)技术的多维互动:界面的视角 “界面”的原意是指两个独立系统或部件之间进行信息、能量或物质交换的连接点或接触面,界面的设计质量直接影响整体系统的性能和效率。美国学者西蒙把“界面”当作区分人工物与自然物的核心标准。在他看来,人工物可被视作一个界面,它存在于内部环境与外部环境之间,内部环境是指人工物的实质及其组织构造,外部环境则是人工物运行时所处的周遭环境[15](P6)。与此同时,界面本身具有可变性,人类能够依据不同的功能和目标来构建治理界面。“界面”一词所具有的“动态”“联结”“整合”“一体化”等内涵[16],使其适合于多要素交互适配场景的分析。在管理学语境下,界面管理可理解为交互作用的管理,其实质是对相关主体实行联结,并将联结所形成的界面关系纳入管理状态,以实现控制、协调和沟通,提高管理活动的绩效[17]。有学者提出界面治理理论,将“界面”视为理解治理过程的关键枢纽。该理论认为,成功的治理依赖在动态环境中精心构建并持续调适“界面”,使“界面”有效联结内部结构、外部环境与治理目标三个核心要素[18],进而实现资源整合、差异弥合与冲突化解,最终达成治理目标[19]。在此框架下,“界面”并非静态的边界,而是内部结构、外部环境与治理目标之间进行信息、能量交换和规则互构的动态场域,界面作为系统的边界[20]与系统之间的结合面,是对相对独立的系统之间为实现更大系统目标而进行相互作用、寻求合作的接触点[21]。因此,界面治理理论提供了一种整合性的视角,通过分析界面的形成、状态与调适来理解治理的效能与风险。