人工智能应用对人类道德的影响及认知神经机制

　　1 引言

　　人工智能(artificial intelligence，AI)产生至今，其伦理道德问题一直是各界关注的焦点。在科学家们的建构中，AI会逐步具备感知、推理、学习、交互、问题解决、决策制定及创造力等认知功能(Maedche et al.，2019)。这些功能使得AI能够对人类的思维方式、互动过程和决策制定产生影响。当AI在社会行为、组织管理、社会生产等层面产生广泛影响时，便会产生如蝴蝶效应般的重大社会变革。对此，国际社会迅速做出反应。联合国教科文组织(UNESCO)于2021年通过《关于人工智能伦理的建议》，提出一系列原则以引导负责任的AI使用，防止其对个人和社会产生负面影响；世界经济论坛2021年发布的《全球风险报告》指出，AI技术的普及加剧了决策、隐私保护、就业及社会公平性等方面的伦理风险，并在2024年报告中进一步细化了相关风险，包括虚假信息操纵、网络攻击、数据安全和算法歧视等。当我们面对这些风险和挑战时，首先需要回答一个关键问题：AI应用会对人类道德产生什么样的影响？

　　道德是人类社会在长期发展中演化出的、被社会广泛接受的行为准则(Gert & Gert，2002)。大量研究显示，道德可以从认知、情绪和社会评价三方面影响人类(Blasi，1980；Haidt，2007，2008；Huebner et al.，2009)。其中，道德认知涉及对道德内容的理解、判断等；道德情绪是人类加工道德信息时产生的情绪反应，如内疚、羞愧等；社会评价则反映社会对道德表现的反馈，决定道德形成和发展(Haidt，2007；Turiel，2002)。随着技术发展，AI已从执行特定任务的系统演变为具备学习能力的智能主体，并融入人类社会生活的多个领域。AI与人类的关系已逐渐从过往机器被动接受人类指令的模式发展为人类与AI交互共生的模式(Heyder et al.，2023)。近年来，AI技术快速发展，生成式AI(generative artificial intelligence，GenAI)能基于现有数据快速生成多种形式新内容，特别是大语言模型(large language model，LLM)可执行问题回答、聊天互动等多种自然语言任务。这些技术推动了AI的应用和发展，催生了人机混合工作(human-machine hybrid work)这一新型工作模式。同时，Replika、ChatGPT、DeepSeek等聊天机器人通过提供陪伴、建议和决策支持，逐步与人类建立起富含情感的人机关系。这些变化使得AI逐步走向社会化，并能够在与人的社会互动中从认知、情绪、社会评价与反应三个方面对人类道德产生影响(图1)。为了深入理解这些影响，本文以AI应用与人类交互为切入点，回顾并整合相关文献，探讨AI对人类道德的影响及其认知神经机制，结合不同应用情境分析AI的积极和消极影响，为未来研究探讨如何减少消极影响、提升积极影响提供参考。

　　

　　图1 AI应用在交互中对人类道德的影响

　　注：Insula，脑岛；MCC，middle cingulate cortex，中部扣带回；STG，superior temporal gyrus，颞上回；IPL，inferior parietal lobule，顶下小叶；MOG，middle occipital gyrus，枕中回；IFG，inferior frontal gyrus，额下回；PHG，parahippocampal gyrus，海马旁回；TPJ，temporo-parietal junction，颞顶联合区；STS，superior temporal sulcus，颞上沟；TP，temporal pole，颞极；SPL，superior parietal lobule，顶上小叶；PCC，posterior cingulate cortex，后扣带回；MTG，middle temporal gyrus，颞中回；VMPFC，ventral medial prefrontal cortex，腹内侧前额叶皮层；DMPFC，dorsal medial prefrontal cortex，背内侧前额叶皮层。

　　2 AI应用在交互中影响人类道德的内在机制

　　早期“计算机作为社会参与者”(computers are social actors，CASA)的研究发现，人们会将社交规则、规范和期望应用于和计算机的交互中(Nass & Moon，2000)。随后的研究表明，AI也会受到社会化对待。例如，人们在与AI的互动中会应用礼貌等社会规范，通过温暖(warmth)和能力(competence)两个关键社会认知维度来感知和评价AI(McKee et al.，2023)。同时，AI的拟人化交互功能不断增强，Replika、ChatGPT、DeepSeek等对话系统能够以具有社交性和同理心的方式回应用户，提供陪伴和情感支持，满足人类多样的社交需求(Li & Zhang，2024；Yin et al.，2024)。这使得人与AI之间的交互(人-AI交互)能够以高度类似人际交互(人-人交互)的形式进行。

　　然而，人-AI交互至今远未达到与人-人交互相同的水平。其根本原因之一在于人们对AI和真人的心智知觉(mind perception)存在显著差异。心智知觉是指人们对某一实体是否具有心智能力的感知，主要取决于该实体被感知到的能动性(agency)和体验性(experience)程度。能动性是指实体是否具备像正常成年人一样自主计划、行动和思考的能力，而体验性则指实体是否能够感受情绪和身体感觉(Gray et al.，2007)。研究发现，人们倾向于认为AI具有中等的能动性但缺乏体验性，即认为AI具有一定的行动和思考能力，但无法感受或理解情绪和身体感觉(Gray et al.，2007)。即使AI能够通过语言分析准确理解并回应人类情绪，但只要告知人们回应者为AI，人们对其情感理解能力的评价就会显著降低(Yin et al.，2024)。而当描述AI具有体验性时，会让人们感到紧张不安(Gray & Wegner，2012)。此外，人们普遍不认为AI具备体验道德对错的能力(Gray et al.，2007)，对AI参与道德决策表现出排斥和厌恶(Bigman & Gray，2018)。