英国准备对互联网强制实施一项糟糕的法律
UK prepares to enforce a terrible law on the Internet.
英国雄心勃勃且备受争议的互联网监管始于Pret a Manger的一份奶酪蔓越莓三明治背面的涂鸦。这些笔记来自学者Lorna Woods和William Perrin之间的讨论，讨论的内容是如何让科技公司对在线伤害负责，这些笔记成为了2019年有影响力的白皮书。而这又成为了一项名为“在线安全法案”的草案的基础，这是一项雄心勃勃的尝试，旨在通过监管平台如何处理有害内容，包括儿童色情虐待图像、网络欺凌和错误信息，将英国变成“全球最安全的在线环境”。
从那时起，英国经历了三位首相（和一颗生菜），四位数字事务部长，一场大流行病，以及与欧洲联盟的艰难脱欧。执政的保守党政府连续进行了一次又一次的修改，将从Woods和Perrin的论文中得出的法案扩大，将其从一个真正试图追究科技平台托管有害内容责任的努力，变成了英国脱欧后的政治机能紊乱的反映。
目前的政府被普遍认为将在明年下台，但草案今天将回到下议院，议员们将有最后一次机会就其内容进行辩论。“它与三明治包装纸非常不同，尤其是没有奶酪的污渍，”埃塞克斯大学的法学教授Woods表示。更重要的是，不同的保守党政府各自留下了自己的痕迹。“我认为这可能增加了巴洛克式的装饰，”Woods说。
许多人在批评中远不如此冷静。如今的法案已经蔓延到超过260页，反映了部长们和议员们如何将他们自己的关注点添加到其中，从“文化取消”到安全性再到移民。原始的错误信息条款中的许多内容已经被删除或减弱。草案的增加内容包括一个有争议的要求，即消息平台必须扫描内容以查找儿童色情虐待图像，科技公司和隐私倡导者表示，只有通过削弱端到端加密才能实现这一要求。
包括WhatsApp和Signal在内的主要平台已经威胁要退出英国，如果该法案通过。他们可能并非在虚张声势，该法案很可能会通过。
先前版本的草案对处理危险在线内容采取了相对深思熟虑的方法。除了关于如何防止最明显的非法和有害内容（如儿童色情虐待材料）的规定之外，它还承认有时合法内容之所以有害是因为其被放大或针对性地传播。例如，说疫苗无效可能不违法，但在致命大流行病的背景下，如果这条信息被广泛分享并由平台的算法反复向易受其害的人们提供，那么这条信息可能会变得非常有害。草案最初是考虑如何阻止或限制这种“合法但有害”的内容在离线环境中造成伤害的，不一定是通过禁止该内容，而是通过限制它如何出现在用户的动态中，或者限制它可以被提供给哪些人。例如，可以调整算法，使其停止向处于困扰中的人推荐促使自杀的帖子，或者向年轻用户展示极端减肥帖子。
以平台为基础的针对在线危害的这种方法已成为欧盟监管的基础，欧盟的数字市场法和数字服务法旨在使科技公司对其商业模式的离线后果负责。但《在线安全法案》的变异将英国的重点从监管可能使内容变得危险的系统和算法转向了内容本身。
现在的草案试图确定在在线环境中什么应该是合法言论，强制公司对非法内容采取行动。与此同时，法律上合法但潜在有害的内容由平台自行根据其自身条款和条件进行监管或放任。逻辑是要求平台限制合法但有害的内容将是一种审查制度，违背言论自由的原则；成年人应该能够看到潜在有害的内容并做出自己的决定。
一些批评者认为，这种转变是由于草案被派系化和日益极端化的保守党政治所劫持，自2016年英国脱欧的具有分裂性的投票以来，该党已经带有民粹主义和民族主义色彩。“保守党不得不突然把他们的基础党派引入到草案中，”运动组织“公正选举英国”创始人兼执行董事Kyle Taylor说，他像Judson一样曾经是该草案早期版本的支持者。
Taylor指出，新闻出版商在该草案提出的一些规定中有豁免条款，同样的豁免条款也适用于“具有民主重要性”的言论，这一例外似乎旨在确保具有重要在线追随者的政治人物不会违反该草案。保守党内的一个派别一直在推动类似于美国式的文化战争叙事，围绕着跨性别权利和Covid封锁等有争议的问题，他们迅速将任何限制其影响力的事物贴上“文化取消”的标签。一些党派人物一直在涉足交通管制措施和气候变化的叙事，这些叙事紧密接近明确的阴谋论。“造成大规模伤害的实体当然是注册的新闻出版商和具有大量追随者的人，例如政治家，”Taylor说。“所以你最终会得到一个惩罚拥有18个Facebook好友的人的法案，而对政治家或政治人物不会有任何制裁。”
保守党目前的其中一个困扰是“阻止船只” – 限制难民和其他移民通过英吉利海峡抵达该国的数量。政府在一月份表示，描绘移民穿越英吉利海峡的内容将在该法案下非法。但其他可能被视为有害的内容，如医疗错误信息，不在名单上。这意味着，例如，将是Meta在加利福尼亚州制定的关于疫苗错误信息的政策决定是否在英国删除或降低抗疫疫苗相关内容。
“在（政府的）眼中，你有自由传播虚假信息的权利，”泰勒说。“这已经成为了文化战争的问题，他们不得不维护该党的极右派和纯粹的言论自由派。所以他们摒弃了实际可以对抗虚假信息的一切。这是将政治置于良好政策之上的优先考虑。”
该法案还添加了许多其他想法。当前的文本包括为色情网站进行年龄验证以及对欺诈广告和非自愿分享裸体图像采取措施。
“网络安全法案基本上重新引入了大规模监视，并表示‘我们必须搜索每一部手机’。”
随着该法案接近通过法律，关于其内容的最具争议性和在短期内最具影响力的争论不是关于在线内容应该在网上非法，而是关于政府提议的隐私影响。当前的草案表示，诸如消息应用程序之类的平台将需要使用“经过认证的技术”来扫描消息以查找CSAM材料。科技公司和网络安全专家表示，这实际上是对消息的全面端到端加密的事实上禁止。在端到端加密中，只有消息的发送者和接收者可以阅读消息的内容。
英国政府表示，解决这种冲突的技术解决方案由科技公司决定。“他们在相当不诚实地说，‘我们不会触及端到端加密，你不需要解密任何东西，’”萨里大学网络安全访问教授艾伦·伍德沃德说。“底线是，数学规则不允许你这样做。然后他们基本上回来说，‘懂技术更好。’”
一种可能的方法是客户端扫描，即在加密消息之前，手机或其他设备将扫描消息的内容并标记或阻止违规材料。但安全专家表示，这会带来许多新问题。“你不能这样做并保持隐私，”伍德沃德说。“网络安全法案基本上重新引入了大规模监视，并表示，‘我们必须搜索每一部手机，每一个设备，以防我们发现其中一张这样的图片。’”
苹果公司曾经致力于开发一种用于在其iCloud存储服务上扫描图像以识别CSAM的工具，希望这可以防止滥用图像的扩散，同时又不威胁用户的隐私。但在去年12月，该项目被搁置，苹果最近在回应反对儿童虐待组织的批评时表示，它不想冒险开启一个用于更广泛监视的后门。该公司的论点得到了隐私倡导者和其他科技公司的支持，即如果有一种方式可以扫描用户的文件用于某一目的，最终它将被用于另一目的-无论是犯罪分子还是侵入性的政府。安全消息应用Signal的总裁梅雷迪思·惠特克称这一决定是对在加密平台上安全扫描内容是可能的想法的“丧钟”。
Signal公开反对英国的法案，并表示如果按照目前的形式通过，可能会退出该国。Meta也表示WhatsApp可能会做出同样的决定。为政府（包括英国政府）和军队提供安全消息服务的Element等较小的公司表示，他们也可能不得不离开。强迫公司扫描通过消息应用程序传递的所有内容“将是一场灾难，因为它从根本上破坏了加密通信系统的隐私保证，”Element首席执行官马修·霍奇森说。
由言论自由组织Index on Censorship委托进行的法案法律分析发现，该法案授予了英国电信监管机构Ofcom比安全机构更大的监视权力，并对其使用方式的监管检查和平衡非常薄弱。公民社会组织和在线隐私倡导者指出，这些权力是由对抗抗议权利并在其2016年的《调查权法案》下赋予自己广泛监视互联网用户权力的政府推行的。去年七月，苹果公司抗议对该法律的拟议修改，称这将意味着科技公司每次修复其产品的安全漏洞时都必须通知英国政府。
政府对消息安全和CSAM执法之间的权衡提出的方法得到了儿童保护组织的支持，他们对《在线安全法》持普遍支持。即使是对立法的批评者也承认，科技行业可能需要在其强硬立场上做出让步。“隐私很重要，但被虐待的儿童的基本人权也同样重要。我认为这可能是在辩论中被忽视的一点，当我们谈论权利时，”伍兹说道，他的三明治包装启动了整个事件。“我们不只是在谈论一组权利，我们在谈论一系列的权利。因此，你必须进行极其困难的平衡。”尽管该法案的许多部分已经偏离了最初的愿景，但其中仍然有一些好的想法，伍兹说道。
无论最终是否达成妥协，接受ENBLE采访的专家们一致认为《在线安全法》很可能会在今天通过。当它经过议会并成为法律时，政府剩下的任期不会超过一年，而保守党看起来有可能在明年秋天失去执政地位。一个庞大而有争议的新互联网体制很可能成为其遗产的一部分，因为该法律不太可能迅速取消。虽然包括伍兹在内的一些人认为科技公司撤出英国的威胁有些虚张声势，但其他人表示，英国在脱欧后在世界上的地位下降意味着政府可能夸大了自己的优势。
“我认为Signal会离开。我认为WhatsApp会离开，因为Meta在该国还有其他产品。我认为苹果将停止运营iMessage，”公平选举英国的泰勒说道。“我认为我们必须记住，我们曾经是世界上最大的经济体之一，对抗大公司具有重要影响力。现在，作为一个较小的中等大国，英国对抗Facebook，Facebook会获胜。”
