在人与机器的关系中,一直都是人处于绝对的支配地位,机器只是一种工具,而在未来,随着人工智能、大数据、物联网、生物技术和其他技术发展,机器的能力将发生本质的跃进,人与机器的边界被打破,其关系也将被深刻改写。新的人—机关系或许会使今天以人主导的信息文明演化为人与机器共同作用下的“人—机文明”,这种新文明既可能延续与丰富人类文明,又可能在一些方面偏离人类文明的既有轨道,这些偏离也可能酝酿出风险。技术将为人、机器以及文明的发展带来巨大的不确定性。 不确定的“后人类” 对于人与机器新关系的常见表达是共生、融合,这会意味着人的存在、人的本质这些最基本的问题受到挑战,而这一线索并不是今天才开启的,早在20世纪就已经埋下伏笔。起源于20世纪60年代的赛博格概念,就是一种超越自然人的人—机耦合设想,即向人类身体移植辅助的机器装置以增强人类适应外部空间的生存能力。后来,它泛指由机械拓展而超越人体限制的人的新身体。美国学者堂娜·哈拉维(Donna Haraway)指出,赛博格意味着人类与动物、有机体(人类与动物)与机器、身体与非身体之间的界限的模糊。① 今天,与人的身体相关的设备(包括手机)和智能传感器,正在共同促进人的赛博格化。这些机器不只是人的器官延伸,而是成为某种意义上的新器官。它们增强了人对外界的感知、连接与认识能力,同时也增加了人被外界认知与控制的维度。这些机器也将人随时随地映射到虚拟世界——人的身体状态、行为甚至思维活动都被数据化,人与信息的界限不断模糊,人类日益成为后人类主义研究的代表人物凯瑟琳·海勒(Katherine Hayles)所说的作为物质-信息混合物的后人类主体。②技术也可以将数字化的人切割成很多数字化的元件,如外貌、声音、动作等,这些元件可以脱离其母体与其他对象结合,这也是深度伪造的前提。新技术的发展,甚至使记忆的修改、意识的上传也在变得可能。而未来,更多可以直接嵌入人体的智能芯片,或将使人的赛博格化变得更为名副其实。 以赛博格研究为代表,20世纪晚期以来,后人类主义(包括超人类主义)的研究在一波波推进,不少研究都涉及NBIC技术(即纳米技术、生物技术、信息技术、认知科学)等对人类机能甚至寿命的“增强”问题,这也包括机器对人的增强。 对人类是否应该采用增强技术,支持者与反对者各执一端。人类的增强是否会带来对人的尊严的威胁、增强技术是否一定带来幸福等,也是研究者关心的。这些问题不仅是抽象的伦理讨论,也涉及实践层面公共制度的走向,一个核心关切是:“如果一个可能的准人准机器的混生物出现了,人类应当建构何种公共拟制才足以应对?”③ 虽然争论一直存在,但机器和其他技术对人类的增强已经开始,机器与人的融合也已经开始,因此,我们不得不面临一种新的生命哲学。“这种新生命哲学的首要问题恐怕是:自然人类被技术化(非自然化)的限度何在?”④技术的进一步发展,必然也会使得关于“限度”的问题的讨论变得更为重要,例如人类是否应该实现永生,人的意识是否可以脱离身体而存在。即使是像海勒这样的后人类主义者也认为,理想的后人类是体现各种技术的潜力,而不幻想无限的权力和无形的永恒。人的生命扎根于复杂多样的物质世界,人的延续离不开物质世界。⑤她并不接受人的意识与身体分离这样一种可能前景。 除了身体机能增强外,在大数据、人工智能等技术的支持下,机器也在某些方面增强了人类的认知能力和决策能力,使之超越人的感官能力和自身经验。这并非通常人类增强技术所讨论的范围,但也是机器对人类增强的一种路径。 然而我们也不应忽视增强的另一面:机器可能在某些方面带来对人的能力的削弱。当人被机器随时随地量化后,外界对人的监测与控制力增强,但人对自我的控制与保护能力却被削弱。借助机器,人与人的连接线索、交流场景与手段变得丰富,但人与人面对面的交流能力可能减弱。搜索引擎的普及,使人对“外部记忆”的依赖增强,人自身的记忆能力却可能在下降。数据与算法提高了人在某些方面的认知与决策能力,但也可能导致人对机器智能的依赖更强,人的独立智能反而被削弱。 如果万物皆被机器“量化”“算法化”,甚至连艺术创作也都成为一种数据计算,人是否会陷于单一的计算思维与工具理性而导致人文思维与人文精神的萎缩?如果没有高度的数据文明支持(这不仅体现在数据的基础设施、应用能力上,也体现在数据伦理、数据治理、数据文化等方面),人是否会被数据技术所奴役?进一步,如果情感、道德等专属于人类的本质属性都被计算化并可以移植到机器上,是否会意味着人在逐渐丧失他作为人类的地位?虽然提出这些担忧是为了阻止它们变成现实,但最终的结果取决于人类对于技术应用尺度的拿捏,相比以往的各种技术,未来的拿捏要复杂、困难得多。 在机器支持下,人类为了突破自己的局限向未知领域发起一次次冒险,这就意味着我们将面临很多不确定性。作为一种后人类文明,人-机文明会不断挑战我们过去坚信不疑的某些观念,坚守我们所认为的人之为人的本质属性,或许也不像今天这样理所当然,文明的走向也变得不是那么明了。 机器“拟人度”的提升及其不确定性