有关人工智能治理问题的讨论，国内外长期聚焦在以法律法规为基础的集中式治理模式上，并做出许多努力，然而相关理念反复论述，具体举措却难以形成，实践落地见效缓慢。导致这种现象的本质原因，是监管者对个性化复杂场景的理解能力远低于具体场景中的组织和个体，技术和商业领域的发展激励机制远强于行政部门的治理激励机制，集中式治理制度形成周期远长于技术迭代周期。因此，在继续努力推动集中式治理体系建设的同时，要寻求更多能发挥各种类型治理积极性的路径。分布式治理是由多个共识联合体构成的治理网络，其架构具有非统一性和去中心化特点，具有高度的弹性、灵活性和多样性，能汇聚起众多差异化的AI向善行动，实现有限、有效和有用的治理。 一、理念复述与实践寡现：AI集中式治理中的突出问题 AI技术无疑为人类社会发展进步带来巨大益处。AI是创新引擎，重构创新范式，AI和数据驱动的创新成果大量涌现；AI提升工作效率，推动产品、服务以及公共服务快速迭代，生产生活便利化程度极大提升；AI能用多模态进行创作，多种形态的文化产品极大丰富，传播渠道极大扩充能够分发海量信息；AI擅长复杂大场景规划，优化重构城市与社会运转流程，激活多方协作能力；AI还具备深察与远望能力，助力人类对自然界和自身的理解边界极大扩展。AI的这些能力和贡献社会已有高度共识，本文不再赘述。 人工智能在发展的同时，其治理问题也日益受到社会各界的广泛关注。人们逐渐意识到，AI不仅给人类带来诸多益处，也带来许多挑战。 (一)AI带来新挑战 1.可以预见的挑战。 AI带来的挑战中，有些已经出现或者可以预见。 首先是对社会共识、社会团结和社会稳定的挑战。机器生成的信息增加，内容庞杂真伪难辨，由于合成信息大量加入和大模型产出的不可检验，主观有意和客观无能导致的“真—假—虚—实”内容交相纠缠在一起，当出现偏颇或虚假画像时，个体无法知晓问题出在何方。数智化的探测和匹配技术，决定着不同社会主体的可知不可知、可得不可得及可为不可为。例如针对个人偏好的新闻推送和广告投放，既能为消费者提供更合意更有个性的产品和服务，然而也很可能产生“信息茧房”效应，那些多元信息搜集能力较差的“文化弱者”受到的影响更大。AI还可能生成一些极端观点，有意无意带来社会不同群体立场极化的效应。它们还有能力通过掌握的海量数据和计算能力，侵犯个人隐私，违背社会公平，塑造不恰当的价值观等，甚至有能力干预政治选举，并在地缘政治中扮演重要角色。以谷歌公司为例，欧盟反垄断当局曾经认为，它并非市场中的一个竞争者，而是为他人设置竞争条款的权力核心和“造王者”(king-maker)。① 其次是对市场各方关系的挑战。对数据、算力和算法的掌控能力，使得大型企业和大型组织具有了更强市场竞争力和社会影响力，中小企业地位更加被动和弱化。大数据和特定算法一定程度上可以决定资源配置，资本/劳动的关系也在改变，被资本和技术替代的工作岗位类型在增多，各种人工智能不仅能够从事重复性高的信息处理类工作，生成式大模型更具智慧性，有望替代多种类型的知识和技能密集型工作岗位。如此下去，技术进步创造的新财富无法在市场相关各方特别是技术资本持有者与劳动者之间共享，导致经济发展的包容性共享性较差。 2.尚未预见的挑战。 图灵奖得主Yoshua Bengio于2025年牵头发布的《国际人工智能安全报告》，将人工智能带来的各种风险划分为三大类，包括恶意使用风险(Malicious Use Risks)，即人为使用人工智能系统进行伤害、操控、欺诈等非法或不道德行为；技术失灵风险(Malfunction Risks)，即人工智能系统在正常使用情况下由于故障或技术失灵带来的不良后果；系统性风险(Systemic Risks)，即人工智能大规模应用后可能引发广泛负面社会影响。②有些情形下带来的风险极高，例如AI在军事领域的应用；有些系统性风险也会带来全局失控的问题，例如系统性金融风险。不过人们普遍认为，AI继续发展下去，人类社会面临的最大潜在风险就是技术失灵中的失控情况，亦即当人工智能(AI)发展到通用人工智能(AGI)或超级人工智能(ASI)的阶段，人类丧失对AI的控制权，机器不仅替代人而且战胜人。 上述分类并未穷尽AI的风险。经济学将风险区分为两类，一类称为风险(Risk)，指未来事件的结果概率分布是已知或可以估算的情况，例如风险投资，失败率大致在89%—90%，还有保险赔付率等，这类风险可以通过概率模型量化，并能用保险、对冲等方式管理；另一类称为不确定性(Uncertainty)，指在未来事件的概率分布完全未知或无法可靠估计的情况，例如突发罕见自然灾害或战争、颠覆性技术创新等，这类情况无法用传统概率统计衡量，决策往往依赖主观判断或经验，其极端案例现在也被称为“黑天鹅”事件。③科技发展思想史上有过著名的“科林格里奇困境”：试图控制一项技术是困难的，而且是几乎不可能的，因为在其早期阶段，当它可以被控制时，对其有害社会后果的了解不够充分，因此没有理由控制它的发展；但当这些有害后果显而易见时，控制已变得代价高昂和缓慢。④可以想见，未知概率的不确定风险以及“科林格里奇困境”在AI时代将更加突出和更具挑战性。
