在人工智能的众多研究领域中，自然语言处理(Natural Language Processing，NLP)一直备受关注。ChatGPT作为NLP领域的一颗新星，甫一现世，便凭借其强大的语言生成能力，引发了广泛的关注和热议。根据流量数据网站SimilarWeb的统计，截至2024年8月，ChatGPT的全球访问量已达到18亿次，远超Bing等常规搜索引擎。 相比传统的自然语言模型，ChatGPT采用的基于深度学习和自注意力机制的Transformer架构，不仅能够使ChatGPT在对话中生成自然流畅的语篇，还使其能够拥有一定的语境感知力。[1]同时，其在功能主义层面，更是表现出不亚于人类9岁儿童的心智理论(mind theory)能力，即，能够将不可观察的人类心理状态(例如信念和欲望)归因于他人的能力。[2],[3]这使得ChatGPT在文本改写、内容生成以及人机对话等领域展现出前所未有的巨大潜力。对当前用户而言，它已不再是以往信息检索型的智能问答引擎，而是一个能够根据用户指令输出合乎逻辑的新内容的生成型智能系统。这一技术性突破为智能时代带来的便利是显而易见的，以ChatGPT为代表的生成式人工智能可以被接人多种人机协作系统，胜任智能客服、智能翻译、导购助手以及学习辅导等多种工作，提供比以往更加智能、高效、个性化的服务。但与此同时，这一新兴技术强大的内容生成功能也带来了文本滥用和生成性伪造的风险。[4]这不仅引发了人们对于数据安全、网络诚信等伦理风险的忧思，也进一步衍生出数字时代的认知增强困境以及评价主体失声等涉及人类主体地位的人文主义危机。 值得注意的是，ChatGPT问世后，后续涌现的大批生成式人工智能，如文心一言、NewBing以及Deepseek等等，同样会在不同程度上造成类似的人文主义危机，但鉴于不同名目的生成式人工智能在影响范围和技术水平方面有参差，我们在后续论述当中仍以最具代表性和影响力的ChatGPT为主要论述对象。 一、ChatGPT的人文主义危机 人文主义作为一个意涵丰富的概念，其理论起源可追溯到古希腊时期，被后世称为第一位人文主义者(humanist)的普罗泰戈拉。他强调，应当将人类放在认知、衡量万物的主体地位，并重视人类自身的价值。[5]此后，尽管人文主义概念在长期的发展流变中衍生出了多样的体系，但其关注核心始终在于对人类价值和尊严的珍视。[6]这也是人工智能诞生以来，常被以各种方式提及的发展重点和未来忧思，如霍金、雷·库兹韦尔(Ray Kurzweil)等学者便曾探讨人工智能是否会威胁人类的尊严与生存。需要注意的是，早期的探讨尽管涉及人文主义的核心关切，但往往并不直接提及人文主义(humanism)这一特定词语。一些人工智能的政策文件中也常有“以人类为中心”(human-center)等近似的概念表达，如欧洲政治战略中心发布的《人工智能时代：确立以人为本的欧洲战略》报告等。2018年前后，“人文主义”一词才较频繁地出现在相关论文和专著中。[7],[8]由于探讨人文危机的前提通常是基于未来人工智能在功能方面的高度拟人，如能够使用自然语言交流、基本理解人类情感表达等，囿于人工智能早期功能的瓶颈，“动摇人类地位”等涉及抽象意义的人文主义危机相比切实的技术问题更近似于一种泛化的未来危机图景。然而，以ChatGPT为代表的生成式人工智能在自然语言交互和文本生成能力等方面的高度拟人，使得人文主义危机从假言推理中的问题成为了更加切身化与具象化的主题。 1.生成式智能的认知增强困境 ChatGPT作为生成式大语言模型，不仅能够与人类进行自然语言交互，还能基于用户给定的提示词(prompt)在短时间内生成具有连贯性和逻辑性的文本。[9]这一智能技术带来的直接风险是生成式内容的滥用。用户可以通过对ChatGPT的关键词设置，批量生成各种真假难辨的文本段落，如钓鱼邮件等。同时，ChatGPT的多语言兼容性，使其可以围绕给定的语篇生成多种语言的文本，并通过互联网无障碍地分享到公共空间，从而误导赛博空间的其他用户。面对海量的生成式信息，人类用户不得不置身于现实版的图灵测试，陷入无尽的人-机信息真实性猜疑。一方面，ChatGPT并不能保证其所生成内容的真实性。如果用户问及的知识超出了模型的数据集，ChatGPT往往会输出不可靠的信息，如生成某个不存在的人物的生平；另一方面，即使ChatGPT能够保证对话中生成的信息是真实的，这些真实的内容同样会导致一些伦理和法律层面上富有争议性的后果。一个例子是学生将机器生成的内容当作自己原创的论文提交，这不仅会引发学术公平与诚信方面的危机，还将引发数字时代人类的认知增强困境。 对于人类主体而言，ChatGPT等先进AI生成式工具的出现，让人们在信息生成、问题解答和程序编写等领域获取了以往无法想象的高效助力。ChatGPT对人类认知的延展和赋能无疑是一种赛博模式的“认知增强”，然而，赛博认知增强在某种程度上却会导致人们本有的认知能力的削弱。这种削弱源于智能系统带来的介质变化，皮埃罗·斯加鲁菲(Piero Scaruffi)曾不无忧虑地反思网络介质对人类大脑的反向塑造，认为生活完全离不开网络(超链接导航、即时消息、实时新闻)的人总要付出代价，因为人们使用的介质将决定大脑的工作方式。最终，介质会真正改变人们的大脑。如同零和博弈，一种认知方式的培养常会以牺牲另外的认知能力为代价。([9]，pp.202-203)诚然，这种认知能力的牺牲并不像技术决定论所主张的那么绝对与彻底，它更近似于彼得-保罗·维贝克(Peter-Paul Verbeek)所持的温和主张，即认为当代技术对人类起到了中介调节(mediation)作用，技术不能决定一切，也不是毫无价值负载的中立存在，而是通过一种中介关系塑造了人类与世界关系的特征。技术本身并不能完全控制中介过程，因为中介的形式总是依赖于环境背景的。[10]
