一、问题的提出 戊戌年春节刚过，就有两则关于人工智能的新闻先后在微信朋友圈“刷屏”：一则关于特斯拉自动驾驶汽车，另一则关于一款法律人工智能产品(被称为“律政界AlphaGo”)。 自动驾驶汽车是人工智能最热门的应用领域之一，它结合了智能算法、传感器和执行器，可以说是一种有“感知”能力、“判断”能力和“执行”能力的智能产品。其鼓吹者不仅宣称自动驾驶汽车将大大减少目前全球每年100多万因交通事故死亡的人数，最终“将人类赶出驾驶座”，而且指出自动驾驶汽车将带来一系列生产力和生产关系方面的根本变革，比如人们可以在交通工具上工作，通勤时间不再是成本，而变成创造价值的时间，购买汽车并且让汽车大部分时间都躺在车库或停车场将被大多数人视为不明智的选择，招之即来、挥之即去的自动驾驶汽车将使汽车成为24小时都在路上的共享物品，这将极大缓解交通拥堵和停车位紧张等令人头疼的城市问题。但自动驾驶汽车真的安全吗?人们能把自己的人身安全交托给一部由算法控制的机器吗?当这部机器导致了人身伤亡和财产损失的时候，法律责任应如何分配?这些都是特斯拉事件促使我们再三思考的问题。 2018年2月27日，央视新闻客户端报道：历时一年多的河北邯郸车主高巨斌因特斯拉的Model S自动驾驶汽车在自动驾驶状态下发生事故造成其子高雅宁死亡而起诉特斯拉公司一案有了新进展，此前一直主张“没有办法知道”发生事故时车辆是否启用了“自动驾驶”(Autopilot)的特斯拉在大量证据面前被迫承认车辆在事故发生时处于自动驾驶状态。这起事故发生在2016年1月20日，是全球首起自动驾驶汽车致死事件。就在同年5月的一天，40岁的美国退伍兵、网络设备公司老板约书亚·布朗(Joshua Brown)驾驶的一辆特斯拉Model S自动驾驶汽车在佛罗里达州列维县(Levy County)的27A美国高速公路上与一辆卡车相撞，布朗当场死亡。美国国家交通安全委员会(NTSB)的调查表明，布朗和自动驾驶系统都未能识别出这辆卡车，特斯拉直接从卡车下面穿过，车顶被掀开，布朗的头部严重受伤，直到撞到一棵树上才停下。汽车的气囊在撞上卡车时也未打开，直到撞树时才打开。① 值得注意的是，这两起事故发生时，中美两国都未曾制定允许自动驾驶汽车上路的道路交通管理规则和事故责任规则。直到今天，相关的规则也仍在酝酿过程之中。而这些事故使我们看到，智能算法操纵的汽车早已默默上路，正在与人类司机驾驶的汽车互动。事故早已先于规则出现。同时，这两起事故中丧生的司机都是退伍军人，这个特定身份或许意味着他们敢于冒险，在事故发生时他们都没有“驾驶”汽车，而是放心地把自己的安危交给智能算法。但现实生活中大多数人都是“风险规避者”，对于不能确定是否安全的新产品，我们总是不愿意贸然去尝试。立法可以起到稳定人心的作用：虽然法律不能消除事故，但可以让人们觉得有安全保障。 这类事件引出了本文要讨论的第一个问题，即算法的法律。我们正在进入“算法统治的时代”。越来越多的人拥有不止一种穿戴式智能设备，从智能手机、智能手环、智能眼镜到智能运动鞋、智能手套、智能服装，我们有些人生活在智能家居环境中，室内遍布着智能照明系统、智能冰箱、智能洗衣机、扫地机器人、擦窗机器人，等等。这些设备随时随刻都在向“云端”传送着我们的各种信息，从心跳、脉搏等身体信息到消费信息、饮食习惯、活动轨迹，等等。我们因此成为“物联网”时代的“量化自我”(quantified self)或“可测度的自我”(measurable self)，②我们的一举一动都留下了电子痕迹，变成可供处理、分析和利用的数据。但我们并不拥有这些数据，也无法控制这些数据，数据属于为我们提供各种服务的“大数据掌控者”。因此，量化自我可能是一个不准确的概念，它让我们误以为我们可以借助大数据来更好地进行自我管理和自我实现。更准确的概念应该是“被强加给个人的量化身份”。③ 人不是数据，更不是电子痕迹的汇总，但技术正在使数据得到处理和整合，形成各种各样的自动化区分、评分、排序和决策，这些活动反过来使我们的“真实自我”在社会层面变得无关紧要。我们进入所谓“微粒社会”，④我们都成为数据，并最终成为被算法所定义的人。算法权力(algorithmic power)这种新兴的权力并不把我们当成“主体”来对待，而是作为可计算、可预测、可控制的客体。⑤在这里，马克思和恩格斯在一百多年以前所描述的资本主义对全部社会关系的革命性改造在数字技术的帮助下以更加彻底的方式得以推进：“一切固定的僵化的关系以及与之相适应的素被尊崇的观念和见解都被消除了，一切新形成的关系等不到固定下来就陈旧了。一切等级的和固定的东西都烟消云散了，一切神圣的东西都被亵渎了。”⑥大数据掌控者们借助越来越智能化的算法分析和利用着我们的数据，开发着靠数据化的人类经验喂养的人工智能产品，在为我们的生活提供越来越多便利的同时影响着我们的选择和决策，并在此过程中积累起日益膨胀的财富、技术和人力资源。我们时常听到各种美妙的新词汇，比如共享经济，似乎我们都是这个新世界的主人，分享着它所带来的各种好处，但“共享经济其实是一种聚合经济”，⑦它所产生的巨大利益属于聚合数据的平台或“架构”，我们都在为自己的消费付费，而我们在消费的同时也都在生产，生产着数据，但没人为我们的数据生产支付报酬。我们是生产性的消费者(prosumer)，“免费”使用APP或其他网络服务就是我们的报酬。⑧由此可见，有形的自动驾驶汽车只是算法影响人类生活的一个例子，而无形的智能算法已经改变了我们生产方式、消费方式和生产关系、社会关系。法律如何规制算法，解决算法所带来的主体性流失、权利损害和歧视问题?现有的立法和规制模式已经提供了一些可供参考的方案，通过比较这些方案，评析其利弊，我们可以形成一条相对清晰的思路。
