“英国的大型人工智能峰会充满了末日观念的混乱局面”
英国大型人工智能峰会上混乱的末日观念盛行
英国政府在气候政策、石油钻探承诺和空气污染等方面的反复无常，通常似乎是亲启示录的。但最近，英国高级政治家们开始了一次拯救世界之旅。首相Rishi Sunak、他的部长和外交官一直向国际同行介绍人工超级智能失控的存在危险，他们警告称，这可能导致生物武器的制造，授权独裁者，破坏民主并威胁金融系统。“我不相信我们能阻挡潮流，”副首相Oliver Dowden在九月底对联合国说。
Dowden的厄运论旨在为英国政府的全球人工智能治理峰会争取支持，该峰会计划于11月1日和2日举行。这一事件被视为人工智能杀手的想象结束的时刻，一个开始建立国际共识以减轻这一风险的机会。对于想将英国打造成“全球人工智能安全监管的学术之家，也是地理之家”的首相Sunak来说，这次峰会是一次重要的活动，同时还有打造一个“新硅谷”和一个“技术超级大国”的更广泛计划。但就在峰会开始一个多星期前，看起来这次峰会注定充满了厄运，且令人失望。两位直接了解讨论内容的消息人士称，其旗舰倡议将是大规模人工智能模型的全球自愿注册——实质上是一项没有实际作用的倡议。它捕捉到领先的全球人工智能项目的能力将取决于美国和中国大型科技公司的好意，而这些公司通常并不看法一致。
峰会的其他方面如何？与谈判接近的消息人士表示，美国政府对英国邀请中国官员感到不悦（英国执政党保守党的一些成员也是如此）。尽管与会人员名单尚未发布，但英国国内人工智能行业的领先公司和投资者对于未能受邀感到愤怒，他们被排除在有关其行业未来的讨论之外。他们和其他人工智能专家表示，政府过于关注人工智能驱动的灾难的边缘问题，导致此次活动将忽视技术的更直接现实风险和其潜在的积极影响。
“对于英国在这方面带来了什么，我不知道。”互联网研究所Oxford University’s Internet Institute的人工智能、政府和政策讲师Keegan McBride说道，“他们的关注点太狭窄了。”他和英国人工智能界的其他人士认为，政府最好要看看如何在迅速变化和大规模投资的时刻帮助英国人工智能公司竞争。
峰会议程称将涵盖两类人工智能：一类是具有狭义但潜在危险能力的人工智能，例如可以用于开发生物武器的模型，另一类是名为前沿人工智能的含糊概念，英国正在将其定义为与OpenAI的ChatGPT背后的大型语言模型相匹配或超过其能力的巨大、多功能的人工智能。这种定义自动缩小了参会者名单。“只有少数几家公司在做这个，” McBride说，“几乎全部是美国或中国的公司，而你需要训练这些模型所需的基础设施基本上都由亚马逊、谷歌或微软等美国公司拥有。”
ENBLE采访了十多位英国人工智能专家和高管，他们中没有人受邀参加峰会。唯一知道参加峰会的英国人工智能行业代表是Google DeepMind，这家公司成立于伦敦，但在2014年被这家搜索巨头收购。这引起了很多的不满。
“很多现代人工智能是在英国开发的，”伦敦AI应用开发初创公司Builder AI的Sachin Dev Duggal说，“一方面，我们会说我们是世界的人工智能中心，但另一方面我们又说我们不希望相信我们自己的首席执行官、企业家或研究者具有更显著的声音。这是说不通的。”
世界上很多云计算和社交媒体基础设施是由美国公司拥有，这已经使英国公司和英国监管机构处于不利地位，Duggal说。如果国内企业在没有任何发言权的情况下达成了塑造产业格局的交易，下一代技术也可能集中在少数几家美国大公司手中。“我们中有一群人非常担心，”他说。
Duggal先生的观点得到了英国AI行业的其他人的认同，他们抱怨对前沿模型的沉迷忽略了“那个前沿背后的一切”，一位匿名的独角兽AI初创企业的高管表示。这其中包括每个初创企业，每个正在开发自己AI的学术团队，以及当前可能的技术应用，该高管说道。前沿关注也排除了开源语言模型，尽管最好的开源模型被认为稍逊于最优的商业模型，但任何人都可以下载和使用，或者滥用。
英国政府承诺投资超过10亿美元用于AI相关的项目，包括资助发展本地半导体行业，在布里斯托尔建立一台支持AI研究的新一代超级计算机，以及各种工作组和促进机构。它们究竟能帮多大忙还有待观察，批评者指出，从全球来看，这并不是一笔庞大的资金。只靠10亿美元来推动芯片和AI产业的升级，相对美国和亚洲领先的地位还相差甚远，会面临一系列挑战。而且资金并不一定流向英国企业。五月份，一家位于布里斯托尔的AI专用芯片初创企业Graphcore的CEO请求政府为英国制造商留出一些资金。但这并未发生，本月Graphcore发出警告，称他们需要资金注入才能继续经营。
“非常奇怪的是政府说AI可以做这么多事情，它是如此强大以至于可以毁灭世界，”牛津大学的麦克布里德说道。“但是你期望他们也应该调查如何掌握它的力量。世界上其他国家将会寻求美国和英国来弄清楚他们如何使用这些东西。而现在，英国在这方面真的没有太多可以向世界展示的。”
英国议会尚未开始就与欧盟的AI法案相当规模的国内AI法规进行辩论，尽管政府发布了一份白皮书，以推动该行业的增长，建议采用一套较少限制性的规则。但离政策或法律还有很长的距离，欧盟制定了这方面的节奏。
“英国不自律是相当尴尬的，”未来生命研究所政策总监马克·布拉克尔说道，该研究所在三月份就AI发展发表了一封备受关注的公开信。他对召开峰会的想法非常支持。这个研究所得到科技界一些知名人士的支持，包括Skype联合创始人詹·塔里恩。他一直非常积极地游说各国政府认真对待潜在的风险。但即使布拉克尔对英国事件的结果抱有很有限的期望。“我认为这是AI风险的入门课程，”布拉克尔说。“如果每个参加峰会的人能就最重要的风险达成一致，确定应该关注的内容，我会非常高兴。”
对于英国财政大臣Sunak来说，这可能还不够。他的政府在组织峰会上消耗了相当大的政治资本。美国副总统卡玛拉·哈里斯将会出席。但英国还邀请了中国代表团，据报道这引起了美国官员的愤怒，他们视北京为战略威胁。英国媒体的报道显示，中国官员现在可能只能参加峰会的一半。欧洲官员将参加会议，尽管法国将在两周后举办自己的AI峰会，由电信亿万富翁沙维尔·尼尔组织。10月18日，中国国家网信办宣布了自己的全球AI治理倡议。
由各个国家主办的会议还面临来自联合国和G7等国际论坛的竞争，这些论坛正在探索多边方式来规范AI。目前尚不清楚英国的做法将有何不同，或者在开发早期是否可能达成任何能够实质性改变AI发展进程的国家间协议。
“我完全赞同[苏纳克]的策略，即试图达成国际共识。但我猜想，国际共识只能形成在最广泛的原则周围。” 英国前数字大臣，也是苏纳克领导的保守党的杰里米·赖特说道，“实际上，如果你要做任何事情，可能在国际上之前你必须在国内做。”
两位了解讨论情况的消息人士证实了本月早些时候Politico的报道，苏纳克将向与会者推出一个AI安全研究所。并且，他们还表示，英国政府将提议一个前沿模型注册制度，让各国政府能够了解前沿人工智能的黑盒，以及提前防范潜在危险。该计划将涉及要求模型开发者提供早期访问其模型的权限，以便进行“反对团队”测试并评估其潜在风险。
大多数美国大型公司已经签署了关于安全的美国政府承诺。尚不清楚为什么他们会感到有必要签署一个新的承诺，并且提交有价值的专有信息给一个英国机构。
英国“末日峰会”的批评者，包括执政党保守党成员，担心它注定是平庸的，至多如此。他们说，这场峰会被匆忙安排的真正原因是国内政治。这是苏纳克可以在他在民调中落后并被视为在下次选举中几乎肯定会失去权力的时候展示或至少装出的东西。一些内部人士指出，其证据是场地的选择—一座与英国曾真正是顶级全球计算力量相关的19世纪乡间别墅。
布莱切利公园是英国第二次世界大战期间的密码学家们破解纳粹“恩尼格玛”密码的地方。这个场地与英国计算界最重要的人物之一阿兰·图灵紧密相连。这无疑是英国政府选择该场地的原因。实际上，这并没有什么意义。布莱切利公园距离伦敦有50英里，根据一位政府顾问的说法，这是“一个麻烦的地方”，他不愿具名，因为他们仍然偶尔为科技部工作。但是这个距离也不使其成为一个便利而隔离的场所。在第二次世界大战期间，校园位于不为人所察觉的地方，但现在位于二战后建立的米尔顿凯恩斯市郊，这个小城市长期以来在英国是个笑柄，被认为是混凝土无趣的代名词，并以其大量的环形交叉路口而闻名。
这个场地，就像峰会本身一样，使一些人认为象征意义胜过实质。一位科技高管，还希望与政府达成交易，不愿具名，称之为“以照片形式的政府管理”。他深信苏纳克领导的保守党很可能会在2025年1月之前举行的下次选举中失去。他说，“在18个月内他们就会离开。”
