人工智能有道德地位吗？

　　很多人认为，人工智能伦理的核心宗旨就是要让人工智能(以下简称AI)善待人类；相比之下，动物伦理学的核心宗旨则是要让人类善待动物。尽管二者都关乎善待，但是善待的对象一个是人类，一个是动物。这或许意味着AI与动物在道德地位(moral status)上有着本质区别。本文力图捍卫这一常识。但是，并非所有人都赞同这个观点。随着AI日益强大，不少学者相信，AI也将获得道德地位。他们表示，就像我们不该一味从动物身上攫取资源和价值那样，我们也不应只顾让AI造福人类社会，还需顾及AI自身的权益与福祉。(参见孟令宇，第30-35页；程鹏、高斯扬，第46-51页)

　　如果某个实体拥有道德地位，这就意味着该实体凭借自身的某种特征使得他人既不能随意对待它，又不能无视它的利益、偏好和福祉。(cf.Dwyer，p.9)拥有道德地位，也意味着有可能遭受伤害或者道德上的错误对待，从而要求他人对其担负起道德义务。比如，朋友借我一件玉佩，我有义务妥善保管，万一我将其打碎，尽管我没有伤害这件玉佩本身，但是我仍然需要对器物的主人负有道德义务，而不是对器物负有道德义务，所以器物本身不具有道德地位。朋友委托我照料她的猫，我有义务妥善看护它，如果我扯断它的尾巴，那么不仅会伤害到我的朋友，还会伤害这只猫本身。

　　一些学者认为，像猫这样的动物拥有道德地位，但是AI并非凡物，基于同样的原则，它们也有道德地位，耶鲁哲学家谢利·卡根(Shelly Kagan)便是其代表。他发展出一种基于广义能动性(agency)的道德地位等级理论，捍卫了一种常识观点：人比动物(在道德上)重要，一些动物比别的动物更重要。(cf.Kagan，p.3)卡根的理论还意味着，AI不仅有可能获得道德地位，而且如果有朝一日AI的广义能动性超过了人类，那么AI比人类更重要。本文反驳卡根的主张：一方面，即使道德地位有等级之分，广义能动性也只是道德地位的必要非充分条件；另一方面，即使动物有道德地位，由于AI缺乏真实的广义能动性，因而它们也不具有道德地位。

　　本文先梳理讨论道德地位的三种立场，指出卡根的理论处于其中的位置(第一节)。随后展示卡根通过广义能动性这个概念论证动物的道德地位会有等级区分的内在逻辑(第二节)。继而分析指出，卡根将这套思路挪用于AI为何是错误的(第三节)。最后我们将看到，AI的本体论形态使之无法真正具备广义能动性，这也是AI缺乏道德地位的深层理由(第四节)。

　　一、谁有道德地位？

　　和许多重要的哲学概念一样，“道德地位”这个概念经受着概念工程(conceptual engineering)的修正和改造。尽管不同的学者对于奠定道德地位的相关特征提出了不同的界定方案，但通常涵盖四个维度：(1)是否只有道德能动者(moral agent)才能拥有道德地位；(2)道德地位是否要么有，要么完全没有；(3)若某个实体拥有道德地位，是否就意味着其权利绝对不可侵犯；(4)个体是否因其分享它所属的自然类的类本质(而非凭借个体自身的属性)，才能获得道德地位。(cf.Jaworska)

　　一种康德式的保守主义对于上述四个维度的问题全部给出肯定的回答，因而只有“理性存在者”才有道德地位。目前来看，只有人类具备道德认知、自主决策以及承担道德责任的能力。此外，考虑到(2)和(4)，婴儿和植物人这类“边缘案例”并不“边缘”，接受增强技术的“后人类”也不是道德上的“超人”，因此所有人类成员都有同等的道德地位。(参见李亚明，第16-35页)按照这种理解，道德地位是稀缺的，动物肯定没有道德地位。现在的问题是，如果AI高度发达，那么它们会有道德地位吗？持保守派的学者大概会说，由于人类的实践推理、行使判断力、自我反思，以及深思熟虑的能力深深植根于我们的社会文化背景中，而这些社会文化影响又从属于AI所不具备的感性领域，所以在这个意义上AI无法成为我们这个道德共同体的成员。(cf.Manna and Nath，pp.139-151；Chakraborty and Bhuyan，pp.325-331)

　　与保守派相反，持有女性主义和生态主义立场的激进派从关怀伦理或共生关系等视角入手，不仅批判了传统伦理学的抽象理性原则，还声称一旦人们与动物或者AI建立有价值的社会关系网络，它们就有道德地位。(参见赵斌、田天增，第73-80页)相比之下，中间派主张，如果AI具备了类似动物般的心理能力，它就有道德地位。这些心理能力可以是有意识的感知、理性的认知能力、自由意志、自我意识，以及这些要素的变种或组合。但该方案支持者众多，内部分歧非常复杂。(cf.Clarke et al.[eds.]，pp.159-178)关于道德地位的授予，中间派既不像保守派那么苛刻，又不像激进派那么慷慨，因而对我们关心的议题颇具讨论价值。

　　总体来看，中间派大致会把奠定道德地位的心理能力分为两类：一类是有意识的体验或感知(sentience)，另一类是理性能力或高级认知能力。①就前者而言，以彼得·辛格(Peter Singer)为代表的功利主义者在较为宽泛的意义上主张，拥有快乐和痛苦的感知体验为道德地位奠定了基础，即如果AI有感知，AI就有道德地位。遗憾的是，科学界普遍不看好AI会发展出有意识的体验或感知。(cf.LeDoux et al.，pp.832-840；Dennett，pp.41-53；Dehaene et al.，pp.486-492)就后者而言，尽管AI变得愈发智能，但如果我们把认知能力的门槛拉得太高，那么绝大多数动物则无法被赋予道德地位，这又不符合动物伦理学家的初衷和共识。