0 引言 “建立人工智能安全监管制度”是推进国家安全体系和能力现代化的重要内容之一[1]。近年来，人工智能(Artificial Intelligence，AI)技术飞速发展，成为新一轮科技革命和产业变革的核心驱动力，为发展新质生产力注入强劲新动能，但也给人类社会带来前所未有的冲击和安全隐患。因此，准确识别并有效管控人工智能带来的新型安全风险不仅是确保人工智能战略性新兴产业健康发展的必要保障，也是维护国家安全的迫切需要[2]，是中国式现代化进程中统筹高质量发展与高水平安全亟须解决的问题。近年来，以ChatGPT为代表的生成式AI技术得到越来越广泛的应用，正在以数千倍于人类的速度生产海量信息内容[3]。同时，由于AI生成信息高度逼真，人类用户难以区分辨别，导致AI虚假信息(Fake Information)大量涌现，其中既包括人为操纵生成的AI伪造信息(Disinformation)[4]，也包括因模型缺陷而无意产生的AI错误信息(Misinformation)[5]。生成式AI技术颠覆性地改变了社会信息格局，使人类面临越来越严峻的AI虚假信息挑战。为此，国家先后出台《生成式人工智能服务管理暂行办法》[6]、《人工智能生成合成内容标识办法》[7]等法律法规，对AI伪造信息进行严厉打击，学术界也从政治、经济等不同角度探讨了AI虚假信息相互交织的潜在风险。但是整体来看，现有研究主要集中于危害性较为显著的AI伪造信息，但是对危害性更为隐蔽的AI错误信息风险却关注不多，特别是立足整个社会信息生态系统，从动态演化视角对AI错误信息次生风险的审视与剖析更为鲜见。本文聚焦AI错误信息诱发的信息生态污染风险，致力于揭示风险形成机理以及风险管控要素。首先，以信息生态理论为框架，从信息、信息主体、信息环境三个维度梳理信息生态污染风险的影响因素；然后，基于因果关系分析揭示风险形成机理，并通过系统动力学仿真进一步明确各影响因素在风险管控中的作用强度和作用规律，为科学管控生成式AI潜在的信息生态污染风险提供理论参考。 1 相关研究 1.1 AI生成信息的风险 生成式AI颠覆性地改变了社会信息格局，其风险有很强的外溢效应，影响范围极为广阔，因此对AI生成信息的风险探讨逐渐成为研究热点。其中代表性的风险类型包括地缘政治风险[8]、国家意识形态领域安全[9]以及在经济社会领域的各种公共安全风险[10]，这些宏观层面的前瞻性研究较为全面地揭示了AI生成信息潜在的威胁与挑战，证实了AI生成信息风险的广泛性和紧迫性。在各种AI生成信息诱发的公共安全风险中，虚假信息风险引起国内外学者格外的关注。B.D.Menz等[11]呈现了AI快速生成的健康领域虚假信息，其外观“严谨规范”，论述“有理有据”且“令人信服”，但实质内容却充满大量误导性信息，有力佐证了AI生成信息的高度逼真性和认知迷惑性。这种生成式AI诱发的大规模虚假信息被支振锋概括为“劣质信息泛滥风险”[12]。值得注意的是，M.Salvagno等[13]创新性地将AI信息风险的研究视角指向了AI技术本身的内在缺陷，指出AI模型“幻觉”现象导致的信息不可靠性令人担忧，为本研究提供了重要的起点和启发。具体到AI虚假信息对信息生态系统的污染风险，国内学者较早地从宏观视角指出生成式AI对信息生态系统的知识安全和认知安全存在威胁，认为AI生成信息的普及可能导致社会信息秩序的紊乱[14]。在此基础上，梁怀新等[15]从信息生态理论的各个要素维度逐一讨论了AI时代网络信息内容生态的潜在风险，但是其展开逻辑仍是单一要素的独立分析，未能将信息生态系统的整体性和系统要素之间的关联性考虑进来。 综上，现有研究从不同角度探讨了AI生成信息的潜在风险，然而，这些风险研究多侧重于在当前时间剖面下的静态显性风险，未能揭示需要经过长期相互作用、动态演化才能暴露出来的深层风险。特别是对AI生成信息诱发信息生态系统污染这一全局性“灰犀牛”安全风险[16]的研究尚不够深入，风险机理与演化过程还不清晰。 1.2 AI虚假信息的风险治理 AI虚假信息风险治理发端于传统虚假信息的治理，传统虚假信息的研究成果为AI虚假信息治理提供了坚实基础。例如，针对网络谣言各个传播阶段的谣言阻断方式[17]，以及由“干预时机”“干预对象”两个维度构成的虚假信息治理策略矩阵[18]，这些传统虚假信息治理框架对治理AI虚假信息风险具有重要参考价值。然而，AI虚假信息逼真度高、数量规模大的独有特征，对风险治理提出了更高的要求[19]。检测识别是一种直观的虚假信息防范思路，但是，有学者运用多种主流的内容检测工具对ChatGPT生成文本进行了检测实验，发现无法可靠地分辨AI生成信息[20]。面对AI虚假信息风险，依靠检测工具已不再可行，迫切需要构建多元化的协同治理体系[21]。 在此过程中，为精细化治理AI虚假信息风险，M.Mende等[5]根据信息来源的不同，将AI虚假信息进一步细分为人为制作的AI伪造信息和因模型内生缺陷而无意导致的AI错误信息。这一分类框架精准界定了风险来源，深刻揭示了两种虚假信息的本质差异，为靶向开展AI虚假信息风险治理指明方向。在AI伪造信息治理方面，一些学者强调完善法律惩罚措施的重要性[22]，另一些学者则着眼于信息用户端的治理，提出应加强预先干预、提高防范意识[18]，通过鼓励多主体参与事实核查工作以提高AI伪造信息辨识率[23]。另一方面，专门针对AI错误信息的治理研究还处于起步阶段，从建设标准训练数据集的治理方案[24]到AI模型面临“数据中毒”的风险提示[25]，大量研究揭示了AI模型具有“垃圾进，垃圾出”的天然属性[26]，并且均强调了训练数据质量在管控AI错误信息风险中的基础性作用，为本研究提供了重要的基础。 综上，现有研究从训练数据质量、信息素养等不同角度提出AI虚假信息风险的治理策略，在各自场景下均有一定的适用性。然而，这些风险治理策略彼此孤立而分散，各自规律特征与相互关联联系尚不明确。面对AI错误信息长期扩散诱发的信息生态系统污染风险，哪些是抑制风险的主要因素，哪些是管根本、利长远的决定性措施，仍缺乏清晰的答案。因此，为科学应对信息生态污染风险，有必要在信息生态系统视域下，深入研究风险背后的影响因素及其相互作用关系，准确揭示风险管控的关键要素。
