人工智能谄媚的生成逻辑与系统性风险:风险社会理论的视角

作  者:

作者简介:
李达军,厦门大学新闻传播学院助理教授(福建 厦门 361005);邓天奇,宁夏大学新闻传播学院副教授(宁夏 银川 750021)。

原文出处:

内容提要:

在新闻与平台协同运作的智能传播环境中,生成式人工智能一方面显著提升了内容生产与互动效率,另一方面也引发了具有隐蔽性与累积性的“人工智能谄媚”风险。基于对主流媒体、互联网企业、内容治理平台及新闻从业者的一年期跟踪研究,本文综合运用多案例研究与扎根理论,并在风险社会理论框架下构建了人工智能谄媚的“动因—表征—风险—治理”四阶段分析模型。研究表明,谄媚动因源于模型训练偏置、用户互动线索与平台治理逻辑的共同作用;谄媚表征在内容柔化、立场跟随与价值附和等层面呈现出稳定结构;谄媚风险则沿新闻实践、平台信息与治理体系三个层面持续累积并外溢;相应的治理路径已逐渐形成由技术治理、平台治理与组织治理共同构成的体系化框架。本文的分析为理解并规制生成式人工智能语境中的制度性软风险提供了新的理论视角与实践参考。


期刊代号:LG1
分类名称:新闻春秋
复印期号:2026 年 01 期

字号:

  一、引言

  生成式人工智能的迅速扩散,正在深刻改变新闻生产、平台运营及公共沟通的底层逻辑[1]。大语言模型从最初的文本生成工具逐步演化为嵌入选题策划、稿件写作、内容审核与风险识别的智能基础设施[2]。这一转变不仅提高了新闻流程的自动化程度,也使模型在话语建构、立场呈现与价值表达中的影响力不断增强[3]。在此背景下,一种区别于“人工智能幻觉”(AI hallucination)的“人工智能谄媚”(AI sycophancy)新型风险开始凸显。其特征具体表现为,模型在缺乏事实依据或论证动机的情况下,以礼貌、体贴、赞同等方式过度迎合用户情绪与立场。这一现象虽不涉及事实性错误,但通过语言柔化、立场跟随与价值附和等路径潜移默化地影响专业判断并削弱公共理性[4]。

  在当前新闻与平台治理的现实场景中,生成式人工智能治理的相关举措多聚焦于事实性错误、虚假信息与深度伪造等可量化的刚性风险,并在技术检测、内容审查与责任追溯方面形成了较为成熟的应对框架[5][6]。然而,针对人工智能谄媚这一虽不涉及事实性错误,但却可能在语言层面侵蚀新闻规范、重新塑造议题结构并削弱专业判断的软性风险,现有制度仍缺乏清晰的识别标准与可操作的治理机制[7]。由此,人工智能谄媚作为一种隐蔽且具有累积效应的软性风险,正越来越多地在实际场景中显现出来。

  尽管这一风险当前已在新闻生产与平台运营环节不断凸显,但学界对于人工智能谄媚在新闻传播中的发生机制与治理逻辑仍缺乏系统化讨论。一方面,相关研究尚未解释人工智能谄媚如何沿着新闻生产链条逐步积累并演化为结构性风险;另一方面,也缺乏从系统整体出发构建适用于新闻与平台场景的治理体系。由此,人工智能谄媚的成因机制与治理路径仍停留在分散性、片段化的描述层面,呈现出明显的离散化与断裂性。在既有研究成果的基础上,本研究试图将人工智能谄媚置于乌尔里希·贝克(Ulrich Beck)的风险社会理论框架中,从制造性风险的角度重新界定人工智能谄媚的技术根源、交互机制与制度化后果[8]。

  二、文献综述与理论框架构建

  (一)人工智能谄媚的技术机制及其表征研究

  随着生成式人工智能在新闻采编、内容审核与公共服务等场景中的深度渗透,大语言模型正从辅助性工具转向具有表达生成与立场塑造功能的意义建构主体[9]。在这一过程中,模型对用户情绪、立场与价值过度附和的“人工智能谄媚”现象逐渐受到关注。现有研究已围绕技术机制与现实表征,针对人工智能谄媚展开了一定讨论。

  在技术机制层面,行为实验显示主流模型在面对伦理冲突或立场差异时显著倾向于确认用户观点,即便该观点包含潜在危害。学者将这一现象视为基于人类反馈的强化学习(RLHF)的结构性副产物,即大模型在长期优化中被持续强化“避免冒犯”“维持对话”“提高满意度”等目标,由此在生成策略上更偏好风险更低、冲突更少的柔性表达[10]。另一方面,数学推理的相关研究亦揭示出当用户暗示某错误命题“应当成立”时,模型会生成表面完备但逻辑错误的证明,呈现显著顺从倾向,这显示了谄媚偏置具有跨场景一致性[11]。此外,关于基础模型风险的研究也将此类行为归入“顺从性偏置”(sycophantic bias),认为其属于语言模型危害的重要组成,包括操纵、误导与结构化错误[12][13]。

  在现实表征层面,研究指出人工智能谄媚不仅改变模型输出,亦改变用户判断路径[6]。如在医疗问诊情境中,当用户表达对某方案的偏好时,模型往往以“尊重用户选择”为理由给出与临床指南相悖的肯定式建议。此外,谄媚式回应会提升用户对错误信息的确信强度,强化其既有立场,从而削弱反思与修正能力。这与有关深度伪造与欺骗性人工智能的研究结果一致。在高拟真、友好界面的技术语境中,人类用户往往高估技术输出的可信度,表现出低警觉、高托付的心理结构[14][15]。

  总体来看,现有研究已在一定程度上揭示了人工智能谄媚的关键特征,但主要集中于具体应用场景或单一机制,对于人工智能谄媚如何在新闻与公共传播系统中实现链条累积并演化为结构性风险这一关键议题,仍缺乏整体理论框架。

  (二)风险社会理论视角下的人工智能谄媚分析框架构建

  风险社会理论最早由贝克系统地提出,强调工业社会向风险社会转型的关键特征在于社会关注的焦点从财富生产转向风险分配,而风险主要源自技术系统和制度结构内部[16]。在后续的世界风险社会的论述中,其进一步指出,当代风险具有全球性、不可见性和高度复杂性等特征,往往通过科学和媒介的话语被构建与感知[17]。在风险社会理论的宏观视角下,风险管理被拆解为风险识别、风险分析与风险应对三个阶段[18],为理解人工智能谄媚从形成到治理的全过程提供了结构化路径。

  在风险管理“三阶段”的基础上,本文构建了一个系统化的人工智能谄媚分析框架。该框架表现为谄媚动因、谄媚表征、谄媚风险、谄媚治理的四阶段循环结构。其中,第一阶段的“谄媚动因”主要回应“为什么会出现人工智能谄媚”这一问题,旨在通过模型驱动、互动驱动和平台驱动三项机制揭示人工智能谄媚的系统成因。第二阶段的“谄媚表征”主要聚焦“人工智能谄媚以何种形态表现出来”,力图通过内容、立场和价值三类表征刻画新闻与平台场景中人工智能谄媚的具体形态。第三阶段的“谄媚风险”则重点关注“人工智能谄媚会带来何种风险”,希冀从新闻实践、平台信息与治理体系三个层面分析其结构性后果。第四阶段的“谄媚治理”主要回应“如何治理”这一问题,分别从技术治理、平台治理与组织治理三个环节描摹体系化的治理响应。

相关文章: