“人工智能(AI)”原来指的是由人类设计出来、能够模拟人类智能的计算系统。AI技术目前已经取得突飞猛进的发展，其应用扩展和渗透到了人类生活的各个方面，而在与人类增强技术相结合时，AI技术的发展前景甚至要求我们重新思考人类生活的形式、价值和意义。与AI相关的技术发明和创新，在某些条件下确实可以促进人类福祉。例如，自动化生产系统可以把人们从重复性的繁重劳动中解放出来，智能机器人可以执行某些可能会对人类产生致命威胁的工作，图像处理系统可以帮助诊断癌症和阿尔茨海默病之类的疾病，护理机器人可以帮助照顾老弱病残者，脑机接口技术可以用来修复人脑的某些损伤或病变。 然而，随着具有所谓“自主学习能力”的人工智能的发展，智能技术的应用也会带来一系列令人担忧的社会、伦理和法律问题。对这些问题的反思已经促使人们形成了发展负责任的人工智能的基本共识。与此同时，一些对通用人工智能持乐观态度的理论家以及一些倡导后人类主义或超人类主义的思想家则呼吁将道德能动性赋予AI智能体，声称它们拥有道德人格或者至少拥有法律人格。本文旨在从人类道德发展的角度来审视这种观点，尝试表明将道德能动性赋予AI智能体的做法或想法并不成熟。本文第一部分将简要地阐明具有深度学习机制的人工智能可能产生的技术和伦理风险，并指出AI系统的伦理设计需要面对的根本问题，以便为后续论证提供一个基础和背景。第二部分尝试表明，按照我们对人类道德能动性的基本理解，为什么至少目前的AI智能体(或者甚至可以合理地预测未来的AI智能体)不太可能拥有道德能动性。第三部分将补充说明人类智能与人类道德能力的本质联系，以进一步强化前一部分中提出的论点和论证。 一、人工智能目前的发展和AI系统的伦理设计 机器系统智能化的关键在于算法设计。在早期AI系统的设计中，使用决策树的算法设计满足了透明性和可解释性要求：这样一个系统的输入和输出都是算法明确规定好的，人类可以解释AI系统如何达到了其决定，AI系统也可以被“要求”对其决定作出解释，因此人就可以有效地控制AI系统，在系统表现出异常行为时追溯原因，从而能够对其行为进行控制。然而，目前使用大数据或大语言模型、通过人工神经网络进行学习的AI系统被认为实现了算法上的自主决策：这种系统可以对用来进行学习的数据进行分类、评分、排列和联想，通过贝叶斯式的统计学习从庞大的数据中发现规律或进行预测，并由此改进其学习行为。目前的机器学习系统仍然属于狭义人工智能，只是被设计用来执行在某个专门领域中的任务，例如自动驾驶汽车或者用于自动鉴定敌人的武器系统。不过，随着深度学习技术以及全脑仿真、纳米技术和脑机接口之类的一系列相关技术的发展，所谓“通用人工智能”有望在可预见的未来实现。例如，在受规则支配的封闭环境中，弈棋系统AlphaZero可以通过与自己进行多轮不同的游戏来生成自己的训练数据和反馈，进而从这些经验中学会哪种模式最有利于取得成功。AlphaZero似乎能够“从零开始”学习新技能，因此被认为在迈向通用人工智能方面取得了重大进步。大语言模型ChatGPT似乎可以在不依赖于预先准备的输出的情况下，就广泛的主题进行合理、灵活、连贯和信息丰富的交谈，因此被认为有潜力通过全面的图灵测试。一些AI研究者由此认为，未来的AI智能体将能够执行人所能执行的任何任务，不仅具有真正的思想、推理和理解能力，而且能够拥有所谓“超级智能”。一些人认为超级人工智能可以对人类造成伤害，甚至可能会导致人类毁灭；另一些人则认为这种人工智能可以为人类带来前所未有的福音，例如，通过以脑机接口或上传心智之类的方式来实现人工智能与人类智能的融合，人类就可以克服自身的脆弱性或局限性，获得永生或者能够实现有意识的自我进化，从而可以应对人类所面临的各种灾难性威胁，例如全球气候变化。如果拥有超级智能的AI智能体有朝一日变得可能，那么我们就必须认真考虑人类在道德上如何与它们相处的问题。①这促使一些理论家认为AI应该被赋予道德地位，拥有法律人格乃至道德人格。 然而，值得注意的是，不管通用人工智能或超级人工智能是否可能，目前基于深度学习的AI系统本身就存在一定程度的脆弱性，因此就会产生一系列相关的伦理忧虑。这种脆弱性至少体现在三个方面。 首先，目前的机器学习系统仍然存在一定局限性。例如，当它们使用庞大的数据来进行学习时，其内部运作往往是不透明的：它们可以通过学习来改进人类一开始嵌入的算法，但人类可能无法知道它们究竟是如何改进了其学习行为。深度学习之所以被认为为AI的未来发展带来了希望，主要是因为深度学习系统能够根据训练数据和反馈，以自己的方式表征各种信息。这些信息内隐式地存储在人工神经元层所构成的神经网络的链接中。除了输入层被设置来反映特定的问题情况外，在神经网络的中间层次上，每个神经元的激活都取决于它从前一层链接的神经元接收到的输入。这些输入既取决于先前那些神经元的激活程度，也取决于给予相关链接的权重。这些权重在学习过程中被不断调整，该过程通常需要迭代遍历训练数据、评估输出结果，并据此逐渐优化相关权重，直到输入和输出之间达到高度匹配。当学习过程开始时，无论是权重还是中间层中神经元的角色都不是预先确定的。到最后，极其复杂的权重模式隐含地表征了神经网络学到的东西，但却是以一种人类无法解释的方式，并且人类只能通过归纳(即通过经验)预测其行为。使用深度学习的AI系统因此就会带来所谓“控制问题”——既然我们无法充分理解和预测AI系统的行为，我们也无法对其行为实施有效控制。②控制问题接着会产生所谓“责任问题”，即究竟是谁要对AI智能体的行为负责。按照对道德责任条件的一种标准理解，为了对一个行为负责，行为主体需要知道自己在做什么，其行为会产生什么切近后果，并能够按照这种知识和理解来控制自己的行为。就人类而言，我们期望某人能够解释自己所做的事情或作出的决定。因此，责任要求行为主体具有可回答性和可解释性。一旦出了问题，就需要答案和解释。然而，尽管进行深度学习的AI系统可以存取和记录所处理的信息，但它们不像人类那样“知道自己在做什么”，能够对自己的行为及其结果进行反思，因此大概就说不上具有自我意识并能对其行为负责。 其次，机器学习的结果在很大程度上取决于系统用来学习和训练的数据，因此，不完备或者没有代表性的数据会使机器学习系统作出错误或有偏见的判断。③人类与AI的互动可以改变人类的感知、情感和社会判断的潜在过程，并由此放大人类在这些方面的偏差。与AI进行互动的参与者往往没有意识到其影响，因此就更容易受到其影响，而一旦这些偏差被内化，它们就会在人类的社会认知和社会判断中引发更大的错误。之所以如此，恰好是因为目前的机器学习系统基于在海量数据中识别复杂模式，而无需大量的具体编程。因此，只要用于学习和训练的数据存在偏差，即判断中出现系统性错误，系统最终产生的结果就会有偏差。例如，如果一开始由人类生成的数据本身就含有认知偏见和社会偏见，如种族偏见和性别偏见，那么AI系统通过这些数据进行的学习就会放大偏见，因为它们相比人类对数据中的微小偏差更敏感，更有可能利用这些偏差来提高预测的准确性。甚至在没有直接与AI互动的情况下，只是通过观察AI系统的输出，人类的偏见也可能被放大。例如，如果AI生成的图片含有偏见，它们就会对社交媒体、新闻网站和其他数字平台的用户产生影响，当人们的信念受到这些偏见的影响或塑造时，就会产生一系列令人担忧的社会、伦理和法律问题。
