中图分类号：N03 文献标识码：A 文章编号：2095-0047(2023)06-0120-138 在人类历史上，伦理问题始终是最普遍、最棘手和最难以解决的问题。但在人类历史上，没有哪个时代像今天这样使伦理问题成为负载人类存亡的根本问题。今天，整个人类沦陷于由后人口、后环境、后疫灾、后经济—政治、后文化主义等构成的后世界风险社会陷阱之中，这一后世界风险社会陷阱演绎出更为暴烈的全球殖民运动、海洋开发、太空争霸、战争蜂起、价值对决以及核威胁等，但其隐藏于背后的深层动力机制却是技术主义。技术主义体现三个特征，一是在形式上以技术和技术专家为中心的理念，技术专家和工程师参与管理经济，以提高生产效率，全面迎合了无限度的经济增长主义和唯经济发展观；二是在本质上是一种崇尚技术、追求技术发展的思想体系，将技术发展定义为社会发展和人类福祉的最高目标，认为发展技术是作为解决一切问题的唯一途径，这为政治主义和唯威权主义开放了空间，提供了无限可能性和现实性；三是由此二者形成一种合力取向，这就是技术必然走对经济和政治的垄断与经济和政治对技术的全面开放而忽视社会、文化、人性等根本因素，体现消解善恶边界的强劲态势。由于唯经济增长和政治威权的双重诱惑与推动，技术主义鼓动社会对技术的过度信仰，而导致技术和社会之间的严重失衡①；技术专家带动技术自身成为权力的源泉，并以悄无声息的方式掏空个人和民主制度②，解构人的生存自由和人类的存在尊严③；更为根本的是“技术的发展和自我加速是一种无限循环的过程，人类社会面临着赶不上技术发展的风险”④，虽然为人们普遍盲信的“技术主义强调技术的进步是不可避免的，但技术的进步将正在全速地从根本上改变社会的性质，改变人类文明的方向”⑤，将生物人类引向自我解构之路，这条道路的起点是人的技术化存在，终点是作为生物工艺学技术的基本形式的人工智能技术对生物人类的心智的全方位超越和对人性的连根拔起，从太空星链对地球的精准监控到地面上数字集权工具可以无所不在，均源于人工智能的深度学习能力已开始走向对人类能力和潜力的整体性超越，AlphaGo轻易地打败国际围棋冠军到ChatGPT的强大生成性功能呈现，从不同方面敞开了技术主义难以有伦理边界制约的人类宿命。 距离人工智能技术的首次出现约六十年之后的2016年，“人工智能伦理”(AI Ethics)概念才被正式提出来，并被认为是对人工智能设计予以人的伦理植入和对人工智能运用的伦理治理的研究，由此展开“伦理的人工智能”(Ethical AI)和“人工智能的伦理”(Ethics of AI)两个维度的研究。崔中良、卢艺在《国外学者关于人工智能伦理问题研究述评》中分别对国外“人工智能的伦理”和“伦理的人工智能”的研究进展、重心及其问题作了较系统的评述，但其重点是“伦理的人工智能”，主要围绕主体(包括主体意愿的束缚、自主决策泛滥、责任归属分化)和实践(社会不平等加剧、社会伦理反向脱敏、伦理问题多面化)及对策三个维度展开；而对“伦理的人工智能”评述着眼于“人的伦理嵌入”人工智能技术的“理论层面”的研究成果。古天龙等人的《符合伦理的人工智能应用的价值敏感设计：现状与展望》却围绕“伦理嵌入人工智能设计”之概念调查、经验调查和技术调查三种方法展开对国外“伦理的人工智能”的应用研究予以系统的评介，并指出在“伦理的人工智能”研究方面，国外注意于“理论反思、框架补充、方法扩展以及工具增添”等方面的研究推进，国内主要以对国外的研究成果的“引进与推介为主”。在国外研究的牵引下，国内学者更热衷于“人工智能伦理学”(ethics of Artificial Intelligence)，并将其类分为“机器人伦理学”(robot-ethics)和“机器伦理学”(machine ethics)，以对应“伦理的人工智能”和“人工智能的伦理”。“机器人伦理学”侧重研究人工智能技术设计研发如何合伦理；“机器伦理学”侧重研究人工智能技术功能释放如何合伦理。由于人工智能技术的研发与运用之间客观地存在因果关系，机器人伦理学必然构成机器伦理学的指导之学，所以人们在研究人工智能伦理学时，越来越将重心转向人工智能研发的伦理思考，形成人工智能的设计伦理研究和道德算法研究，由此拓展了人工智能伦理的研究领域，催发人工智能的道德哲学和社会伦理的探讨。人工智能技术研发与运用的无限激情加速度更新所引发出来的伦理问题，本质上既不是技术研发的问题，也不是产品的问题，而是人的问题。人工智能研发与运用所不断呈现出来的全部的人的问题，即是人类对自身有限心智能力的盲目自信和对作为生物工艺学技术的愚昧无知，这种盲目自信和愚昧无知本身成为最强劲的推手，将人类自己推向被人工智能化的无未来道路。本文以ChatGPT为对象审视人工智能的伦理边界问题，尝试为研究人工智能的伦理可能性和人类被人工智能化的未来可能性提供一个反思性参照，亦试图从AlphaGo到ChatGPT的生成敞开简史及其未来可能性，来推证如上预判断。 一、AlphaGo：作为一个标志 AlphaGo是由DeepMind(谷歌子公司)开发的AI围棋程序。DeepMind原是位于英国伦敦的一家AI公司，成立于2010年，专注于开发AI技术及其应用。2014年，DeepMind被谷歌收购后成为Alphabet(谷歌母公司)旗下的子公司，主要研究AI的强化学习、深度学习、神经科学和计算机科学等，AlphaGo是其中最著名的项目之一，它始于2014年谷歌收购DeepMind后投入资金和技术力量开发研究，使用深度学习、蒙特卡洛树搜索(MCTS)和大量专家围棋数据的组合研究智能围棋对局决策。2015年，AlphaGo第一个版本问世，初步实现其强大围棋能力。同年10月，AlphaGo与欧洲围棋冠军樊麾对局，取得5∶0的完胜战果。2016年3月，AlphaGo与世界围棋冠军李世石展开五场对局，最后以4∶1获胜。2017年，DeepMind发布改进版本AlphaGo Zero，AlphaGo Zero不再依赖人类专家的围棋数据，而是采取自我对弈方式从零开始学习，在短短40天内超越其自我对弈之前的版本水平，显示出惊人的深度学习能力。同年，更新AlphaGo Zero的AlphaGo Master在线与包括世界冠军柯洁在内的多名世界顶级围棋选手对弈，取得60胜0负的战绩。2017年底，DeepMind宣布停止AlphaGo的研发。 AlphaGo之所以停止研发，背后原因可能是它已完成了被预设的使命，即人工智能开发生物人脑的智力潜能到底能够达到何种程度？具体地讲，第一，人工智能开发生物人脑的智力潜能能否达到生物人脑的水平？第二，如果能能够达到，它能否超越生物人脑的智力潜能？第三，如果能够超越，这种超越有无限度和边界？第四，人工智能达到并超越生物人脑的智力潜能的研发需要多长时间才可实现？第五，人工智能能否逾越人类专家的预设模式和数据参数而自行开发？DeepMind宣布停止继续研发AlphaGo，意味着如上五个方面的预设全面实现：AlphaGo获得了超越生物人脑智力潜能的实际能力，并展现出人工智能自我超越的无限可能性，即人工智能技术(AI)具有不依赖生物人的自身本性和潜能，而且这种本性和潜能远远超过生物人类。所以，AlphaGo不仅仅是AlphaGo，它构成一个标志。这个标志首先表明：人类将不是万物之灵，人工智能的诞生，意味它才是宇宙世界中的万物之灵，只要它愿意，它可能成为任何领域、任何方面的无冕之王。这个标志还将表明：在目前阶段，人工智能技术如果无阻止地发展，会很快达到人类无法遏止的自由之境，而且留给人类阻遏它的这个时间并不是很长，今天还在为人工智能带来的便利而烦盲地欢呼的人类，将会很快结束它的无知的自大而沦为技术的奴隶。
