从人工智能的发展史看，伴随技术的发展和人类对人工智能的预期，超级智能已经从一种对人工智能的想象式描述逐步走向技术研发层面，并引发跨领域的深刻反思。尽管这些反思视角多样，其核心却是一致的：人类正试图为一个远超人类自身的智能设定目标和约束，以确保技术能以安全、可靠与可控的方式发展，并真正服务于人类福祉。然而，吊诡之处在于，超级智能的潜能本质上是人类无法完全预见的，而价值对齐的提出则期望人工智能所体现的价值观与人类价值观相一致。那么，面对远超人类认知能力的超级智能，价值对齐将如何应对源于人类目标不确定性的哲学挑战，源于智能系统的工具性目标趋同与欺骗行为的技术及战略挑战，以及随着人工智能认知能力进化而对人类思维价值构成的存在性挑战呢？ 基于人工智能层级划分视角的超级智能与价值对齐 虽然人工智能的发展历经寒冬，但其始终处于探寻与人类能力等同甚或超越人类能力的路上，且每经过一次寒冬，人工智能本身的性能都会在某方面实现突破，并呈现更强的性能。虽然关于人工智能究竟是一种对人类智能的模拟、替代、升级，抑或一种独立于人的智能，学界尚未达成共识。然而，无论取何种立场，人工智能的性能与人类能力的匹配度既是技术演进的核心议题，也是上述争论的焦点所在，更是划分其层级的重要判据。 以人工智能性能为主的划分方式。对于人类的模拟与超越一直是技术研发的核心议题，无论是人因工程学还是仿生设计等，均力图基于人的视角来提升技术性能。也正是基于此，人成为评判技术的标准之一。从西方技术哲学奠基人恩斯特·卡普(Ernst Kapp)的“器官投影说”，到当今关于人工智能的拟人性、准主体性、自主意识等讨论，均指向技术的性能与人类的性能二者之间的关联度。比如，谷歌DeepMind联合创始人谢恩·莱格(Shane Legg)等，基于对图灵测试、人脑类比等九个案例的考察，依据性能和通用性两个维度将人工智能分成六个层级，其中，超越所有人类的表现即超级智能，为最高阶段；①在尼克·博斯特罗姆(Nick Bostrom)关于玩游戏的人工智能分类中，②人工智能的性能是否超越人类被视为重要判据，且只要机器智能出现，超越人类智能水平的超级智能也将很快出现，并基于超级智能的性能与人脑的对比，再次细分出高速超级智能、集体超级智能和素质超级智能三种形式，③无论何种形式，其性能都是人类无法比拟的。 以人类与人工智能二者关系为主的划分方式。就人工智能的层级划分而言，人类与人工智能二者之间的关系也是重要标尺之一。比如，哈利·柯林斯(Harry Collins)以是否通过图灵测试、是否有身体、是否具有类人推理等五个要素划分六级人工智能。④其中，最高级别的人工智能，即自洽的外星社会与前五个级别的人工智能有着本质差异，其智能已超出人类的认知能力，此时的人类无法理解人工智能，二者的关系几乎走向“盲区”；OpenAI则将人工智能划分为聊天机器人、推理者、智能体、创新者和组织者五个层级。⑤其中，最高级别的人工智能，即组织者可以完全基于数据和逻辑进行运作。此时，人类的地位如何、人工智能是否可控将是人类必须面对的重要问题。无论是柯林斯所描绘的从没有身体且不能通过图灵测试的人工智能到外星人模式的人工智能，还是OpenAI所描绘的从与人类对话工具的人工智能到具有组织人类展开活动的组织者级别的人工智能，均凸显出人类与人工智能二者之间的关系。在这种关系中，伴随技术的发展，人类所占用的份额呈现不断下降趋势，其极限状态为“人不在回路”，即人的份额为零的情形。因此，人类与人工智能的概念边界十分重要，这不仅关涉人机(技)关系的重塑，更关乎着人类文明的未来走向。 价值对齐作为人工智能层级划分判据的本质与超级智能。穆斯塔法·苏莱曼(Mustafa Suleyman)创建DeepMind时，即申明其目标为“复制那个让人类独一无二的特质，即人类的智能”，⑥并将性能卓越、功能通用且足以在开放环境中完成复杂连续任务的人工智能，系统命名为“人工能力智能”(Artificial Capable Intelligence，简称ACI)，并将其作为人工智能和通用人工智能的重要中间节点。⑦事实上，人工智能性能与人类能力的匹配度作为人工智能层级划分的判据，既包含人工智能性能对人类能力的超越问题，也包括人类与人工智能的相处模式，且这两者之间互相交汇。比如，在前OpenAI研究员丹尼尔·科科塔伊洛(Daniel Kokotajlo)等发布的《AI 2027》中，将人类速度作为划分人工智能层级的一个基准，且暗含人类与人工智能二者的关系。⑧因此，从人工智能等级划分的两种方式看，如果人工智能的性能可以超越人类能力(即出现超级智能)且人类无法掌控时，人类或将面临重大风险。当今，关于人工智能可信、可控及安全性的技术研发，正是基于对这一潜在风险的担忧；但如果人工智能的性能远低于人类能力且人类需要人工智能，人类则将不断尝试谋求人工智能的发展。人工智能的发展历史就是上述两种现象的有力证明，并且从人类不断谋求人工智能发展的逻辑看，超级智能的出现具有其合理性。 可以肯定的是，无论何种情况，划分人工智能层级判据的核心标准，在于人工智能系统的行为与人类意图和价值观是否相一致，即价值对齐。然而，从目前的技术研发看，价值对齐作为一项技术已遭遇诸多质疑。比如，基于目标的不确定性、规则的模糊性、技术的脆弱性、工具性目标趋同，以及人类自身的认知局限，这些挑战已引发欺骗性对齐、伪对齐⑨等严峻问题。正如布莱恩·克里斯汀所警示的，试图通过人工构建显式的奖励函数来实现对齐，可能因无法预见所有潜在后果而事与愿违，这无异于“善意铺就的通往地狱之路”。⑩鉴于此，在人机融合已经成为基本共识、超级智能或将出现的背景下，如何构建价值对齐框架，已成为一个亟待破解的重大理论与实践难题。 因目标不确定性而导致价值对齐无用 由于人类自身价值观具有多样性、模糊性且时常充满矛盾，导致人类目标呈现显著的不确定性。由此衍生出一种观点：任何试图将超级智能与某个单一、连贯的人类目标对齐的尝试注定失败。既然人类自身无法达成共识，那么价值对齐也就失去了意义，即价值对齐是无用的。然而，这一“价值对齐无用论”的结论值得审慎批判。从技术价值论的视角看，技术发展若缺乏价值维度的规约，必将导致技术理性霸权所造成的异化困境，甚至可能诱发人类层面的系统性风险。因此，对“价值对齐无用论”的默许或放任，可能导致超级智能无序发展，最终将人类推向根本性的生存危机。要剖析“价值对齐无用论”，除了预判其所可能带来的后果，更须对其逻辑建构过程进行深度解构，从而系统性地揭示其危害。
