人工智能伦理建构的主要目的是使人工智能体具有人类的道德能力(拥有道德性能并使其实现)，维护人类的利益，不伤害人类且行善。①为此，学界从艾萨克·阿西莫夫(Isaac Asimov)的“机器人三定律”②，到诺伯特·维纳(Norbert Wiener)的“机器发展应符合人类需求”③，再到哈德菲里德·迈内尔(Hadfield-Menell)的“价值对齐”④，不仅阐明了人工智能价值对齐的困难及可能路径⑤，更强调了“价值对齐”乃至“价值共生”⑥在人工智能伦理建构中的重要功能及作用，同时也指出了因“时空有限性、类人有限性与算法有限性等难题导致AI价值对齐的功能有限性”⑦问题。 从人工智能伦理治理层面看，面对人工智能在教育、医疗、农业、商业、交通物流乃至娱乐媒体等领域的广泛运用，如何使人工智能体的行为不会给人类带来伤害乃至毁灭，已成为全球治理的核心议题。仅2024年度，联合国人工智能高级别咨询机构、欧洲委员会、全球人工智能安全峰会、世界人工智能大会、北京AI安全国际对话等分别发布了《为人类治理人工智能》《人工智能与人权、民主和法治框架公约》《关于安全、创新和包容性人工智能的首尔宣言》《人工智能全球治理上海宣言》《北京AI安全国际共识》等，此外中国、欧盟、东盟还发布了《人工智能安全治理框架(1.0版)》《人工智能法》《东盟人工智能治理与伦理指南》等系列文件。上述政策文件以人权保障、主权维护、社会公正及人格尊严为核心关切，从技术嵌入设计、法律合理规制、多方合作管理以及社会多元参与等维度，系统构建了人工智能伦理治理的政策框架与法案体系。 若回观人工智能伦理发展史，可发现当前人工智能伦理治理政策以及人工智能伦理建构的主流观点，依然是科林·艾伦(Colin Allen)和温德尔·瓦拉赫(Wendell Wallach)所言的三种经典路径的延展或变体，即自上而下进路(top-down approaches)、自下而上进路(bottom-up approaches)和混合进路(hybrid approaches)⑧。令人遗憾的是，沿此展开的人工智能伦理建构，未充分触及人机共存的根本问题即共存论问题。如图灵奖得主、“AI教父”约书亚·本吉奥(Yoshua Bengio)所言的，“避免未来几年或几十年人类可能面临的两种最危险情况至关重要：一是少数人将通过控制超级人工智能(Artificial Super Intelligence，简称ASI)来控制全人类；二是人类失去对ASI的控制，而ASI的目标是自我保护(这可能与人类目标相冲突并导致人类灭绝)，从而危及人类的生存”⑨，这是对“非对称风险”的延展表达。由此，从“非对称风险”⑩到极端风险乃至人类可能面临的急难层面，审视人工智能伦理建构的重大疑难，并展开应急伦理破解尤为重要。 一、人工智能伦理建构的主流路径 关于人工智能伦理建构的必要性及其路径，早在20多年前，科林·艾伦和温德尔·瓦拉赫就提出了“未来人工智能系统必定会独立于人类的监管，自主做出决定。由此，需要在机器人身上实现人工道德，使机器成为道德行为体”(11)。他们把能够做出道德抉择的人工智能系统称为人工道德行为体或道德行动者(Artificial moral agents，简称AMAs)，并为人工智能伦理建构设计了三种路径，即自上而下进路、自下而上进路和混合进路。(12)这三种进路对当前人工智能伦理的理论建构和实践治理产生了重要影响。 首先，自上而下进路。此进路依赖于已有的伦理学或道德哲学理论，将伦理准则或道德原则转换为计算符号，采用算法形式来表达指令，通过嵌入设计或外部规约等方式将其置入人工智能系统，以规范人工智能体做出合道德的行为。该进路使用单一或组合式伦理原则应对具体伦理情境或伦理问题，它需要设计者熟悉不同的道德理论和伦理原则，且能够运用逻辑、推理和计算，寻找可执行这些原则的算法设计，以指导人工智能体的行为合乎伦理。 作为此进路的践行者，美国佛罗里达国际大学的格劳(Christopher Grau)便主张采用功利主义路径与正义/权利路径并行的伦理标准建构人工智能伦理。(13)美国特拉华大学的鲍尔斯(Thomas M.Powers)提出采用康德式义务论路径建构人工智能伦理，认为出于规则的行为容易以算法形式呈现，基于义务规则的伦理理论可提供一种形式化的程序，有助于人工智能体进行道德推理。(14)还有学者提出了人工智能伦理建构的元伦理学进路，主张将伦理概念、道德术语、价值判断等以计算元伦理学(computational metaethics)的方式呈现。(15) 其次，自下而上进路。此进路主要采用模拟生物进化的方式，通过反复训练、机器学习和复杂适应系统的自组织发展与演化，使人工智能系统能够具有从具体的伦理情境生成普遍的伦理原则的能力，进而做出道德上合理的决策和行为。该进路主要采用人类道德成长的模式，通过模拟值得称赞的人类行为，基于试错法培养道德识别和道德行为力。这就要求设计者能够有效识别和判断具体且复杂的道德场景，通过设计出满足局部功能的伦理算法模块，对具体测试样例不断试错，以调整并优化伦理设计方案。 作为此进路的倡导者，以迈克尔·安德森(Michael Anderson)和苏珊·莱格·安德森(Susan Leigh Anderson)为代表的学者提出了在人工智能伦理建构中，采用伦理共识方式。他们认为，虽然很难找到普遍适用的伦理理论或道德标准，但具体到相关领域的伦理情境或道德场景，依然存在着可以达成共识且确定的伦理原则。(16)麦克拉伦(Bruce M.McLaren)也基于伦理案例实践，采用决议论(casuistry)伦理方法，设计了两种伦理推理的计算模型，为应对伦理困境提供相关信息和伦理推理方法。(17)
