一、问题的提出：假新闻事件凸显算法监管紧迫性 2016年Facebook遭到社会广泛指责，认为其造成了假新闻泛滥进而对本届美国总统选举产生了巨大影响。①然而，2017年数项研究成果显示，Facebook上的假新闻数量仅有1%而已。②原因在于，算法主宰了社交媒体对用户的新闻投放，其推送标准是用户的点击率和转发率而非新闻的真实性。因此颇具噱头的假新闻被用户高频点击或转发，并进一步被算法推送而广泛传播。 美国大选中的假新闻事件引起了对算法如何进行监管的关注和忧虑。算法已经主导和控制了社交媒体上的信息传播。如《纽约时报》数字版使用“非常前沿和复杂的算法”挑选文章推送，将用户点击率提高了38倍。③学者们担心，社交媒体的算法过度利用了用户偏好数据推送信息，制造了信息“过滤泡沫”，造成用户接受的观点越来越极端。④不仅如此，算法通过社交媒体平台对公众日常生活产生巨大影响，人们通过搜索引擎获取知识和商业信息，通过Facebook、微博社交和获取新闻，通过评价类的社交媒体知晓餐馆评价，通过约会类的社交媒体结识伴侣。算法甚至开始逐渐被用于公共部门管理影响公民权利。如何对算法进行有效的监管，是人工智能时代法律制度急需应对的挑战。 算法的定义从Tarleton Gillespie的假设开始，即“算法不需要是软件：在最广泛的意义上，它们是基于指定计算将输入数据转换为期望输出的编码过程。这个过程既指出了一个问题，也指出了解决这个问题的步骤”。⑤因此，算法是“为了解决一个特定问题或者达成一个明确的结果而采取的一系列步骤”⑥。具体到社交媒体算法，算法的目标是获得和保持用户的数量，并且尽量提高用户的参与度。所以，它收集社交媒体用户数据，预测用户的偏好进行推荐，而用户对于推荐内容的刺激和反馈可以为下一步的推荐提供数据。 本文无意进行人工智能时代法律制度的宏大叙事，而是以社交媒体的算法作为切入点，分析算法技术发展带来的监管挑战，并梳理现有法律制度对算法发展应对的缺陷和不足，提出应对人工智能的技术挑战，应以风险防范为目的，对算法同时进行事先与事后监管，主体与技术监管，以期用法律化解风险。 二、现有的算法监管路径：法律框架与制度假设 当前，我国并没有任何直接对算法监管的法律规定。应对算法造成的不利法律后果，我国采取结果监管的法律规制路径。具体言之，通过事后的内容审查发现算法造成的不利法律后果，进而将这种不利后果的法律责任分配给开发者或使用者——网络平台。本部分对现有的有关算法的监管路径进行梳理与分析。 (一)算法监管的法律框架：结果监管下的内容审查与平台责任 大数据时代到来后，网络信息传播呈指数级增长，算法被广泛应用。相对于网络平台，国家权力在网络空间影响力日益减弱。为此各国普遍加强了对于网络信息内容的监管，并要求网络平台对网络信息非法内容的传播承担平台责任。 1.结果监管路径：内容审查范围的扩大 各国对算法造成的不利后果进行内容审查的范围近年来普遍扩大。以社交媒体上的假新闻泛滥为例，各国普遍加强了社交媒体的内容审查，不仅对恐怖、色情、仇恨等侵害公共利益的非法内容严加监管，对诽谤的侵害私权利的内容也加强了监管。⑦ 我国一直重视互联网传播内容的政府监管。2000年实施的《互联网信息服务管理办法》作为基础性法规，规定了互联网信息服务提供者不得制作、复制、发布、传播的八项内容，涵盖“反对宪法所确定的基本原则的”“危害国家安全”等非法内容，并设定了一个兜底条款“含有法律、行政法规禁止的其他内容”。⑧近一两年，新规密集出台，⑨将内容审查的范围进一步扩大，如侵害私权利的“侮辱或者诽谤他人，侵害他人合法权益的”，以及模糊的道德性规定“危害社会公德或者民族优秀文化传统的”等。⑩并且，对内容审查也提出了倡导性要求，如“弘扬社会主义核心价值观”等。(11)对算法的监管通过事后对内容进行审查的方式进行，审查范围的扩大也意味着对算法结果监管的加强。 2.法律责任承担：平台监控责任的加强 在互联网发展早期，如算法造成的不利法律后果，如内容分发的算法造成了侵害著作权的法律后果，则由网络平台承担民事侵权责任。一般网络平台可以主张不提供内容或尽到合理注意义务而通过“避风港”规则免责，这一原则也被世界多国立法采纳。(12) 早在2000年的《互联网信息服务管理办法》就强调平台对用户发布的不法内容有避免传播的义务，处理措施包括停止传输，保存记录与向国家有关机关报告。(13)它为网络平台设立了合理注意义务，在其“发现”不法内容时要及时采取措施，否则网络平台要承担不法信息传播的责任。近两年，国家网信办密集立法并明确提出，对于虚假信息采取“强双责”的方针——强化网络平台的主体责任与社会责任。(14)不仅要求网络平台在明知不法信息的情况下承担责任，更是将对信息的主动监控义务加诸网络平台。(15)在这种制度框架下，网络平台承担了违法内容造成不利法律后果的民事责任，并且开始逐渐承担普遍性的信息主动监控责任。
