乔·拜登（Joe Biden）对抗杀手级人工智能的秘密武器是官僚主义者
乔·拜登（Joe Biden）应对杀手级人工智能的秘密武器是官僚体制内的专业人士
随着ChatGPT一周年的临近，为这个震撼世界的大型语言模型送来了许多礼物。来自乔·拜登总统的礼物是一份超大型的“关于安全、可靠和可信任的人工智能开发和使用的行政命令”。英国首相里希·苏纳克则以人类灭绝为主题举办了一场派对，还包括一个（计算欧盟为单一国家的）28个国家协议，承诺在发展人工智能方面进行国际合作。生日快乐！
在大家过于兴奋之前，让我们记住，可信的研究预测灾难性气候变化已经有半个多世纪了。现在水实际上已经涌到脚下，炎热正在使文明的大片土地无法居住，国际秩序在数以吉之量的化石燃料二氧化碳喷入大气中方面几乎没有起到什么作用。美国刚刚安排了一个气候变化否认者担任第二顺位总统。人工智能监管会进展得更顺利吗？
有些原因让人相信如此。与气候问题不同，一个万亿美元的行业曾全力以赴地试图抹黑威胁，并阻碍切断碳的必要措施，而人工智能的大国似乎乞求监管。他们当然把自己的利益放在首位，但至少他们承认需要规则。此外，与气候情况不同，政府对人工智能的威胁在技术发展的早期就给予了认真对待。拜登计划和国际协议都是着重努力在人工智能将我们掌控之前应对它。
考虑到这一点，对实际内容吹毛求疵似乎有些小家子气。不过，我还是要说一下。我们先从拜登的行政命令开始。我已经读了19811字的政府文件，所以你们就不用读了。最后，我都快晕船了。总统打算如何在开发人工智能的好处的同时，驯服它的黑暗面呢？通过释放一支人类官僚主义大军。文件无节制地要求成立新的委员会、工作组、董事会和工作组。还要求现有公务员和政治任命人员加强对人工智能的监督。
文件中缺乏的是为所有可能因该计划而产生的法规和授权提供坚实的法律支持：行政命令经常被法院推翻或被国会取代，而国会正在考虑自己的人工智能监管（尽管不要抱太大期望，因为政府停摆即将来临）。拜登的解决方案中许多都依赖于接受审查的行业自我监管，而那些大国的权力对该计划有着重要的影响。
你不能因拜登的行政命令缺乏深度而责备它。几乎每个人工智能的热门问题都以某种方式得到了解决，即使只是承诺以后提出解决方案。（这就是它如何处理复杂的生成式人工智能和版权问题。）总的来说，这是动员政府官僚机构应对一种新技术令人担忧各个方面的惊人承诺，包括我们大多数人从未想过的方面。在白宫的命令中，接连不断地提出了复杂的多机构研究，每一项都需要与行业进行深入互动，并与专家进行磋商。拜登的行政命令像点外卖一样让官僚们产生了一堆复杂报告。
国土安全部将成立人工智能安全保障委员会；卫生与公众服务部将组织人工智能工作组；预算管理局主任将召开政府间协调人工智能使用的机构会议，等等。确保这些包括外部人士在内的团体没有利益冲突将是一项艰巨的任务。（只有由政府人员组成的董事会和委员会的成员将不得不等待，以后才能在人工智能大国的华盛顿办公室工作。）所有人工智能工作组中最重要的莫过于白宫人工智能委员会，其中包括30多位官僚大亨，从参谋长联席会议主席到性别政策委员会主任。这对Zoom来说将是一个天大的机遇！
阅读这份命令，人们可能会认为，在未来的一年里，执行机构的一半人将会埋头于人工智能的作业中。在今年结束之前，从司法部长到农业部长，每个人都需要在速拨电话中找到山姆·阿特曼来填写一些空白。我数了一下拜登下达的各种报告和任务的截止日期。两项任务必须在30天内完成，六项任务必须在60天内完成，五项任务必须在45天内完成，十一项任务必须在90天内完成，七项任务必须在120天内完成，三项任务必须在150天内完成，38项任务必须在180天内完成，十一项任务必须在270天内完成，还有十一项任务必须在365天内完成。为了不让你们算数了，我把所有这些伟大的要求都加起来了：94项。除此之外，还有一大堆其他没有截止日期的报告和任务需要完成。一个典型的例子是：经济顾问委员会主席必须准备并提交一份据推测是以毕业论文水平的报告，内容涉及“人工智能对劳动市场的影响”。听起来像是GPT-4该做的工作！其中一些要求比较模糊，比如“鼓励”联邦通信委员会和联邦贸易委员会考虑一系列行动。但是每一项任务都需要令人厌烦的执行，包括会议、草稿、采访、与行业领导和学者的磋商，以及最后一刻的自我保护。
目前在政府的薪资名单上的人们能否胜任这些任务尚不清楚。硅谷迫切需要人工智能人才，并竞相争夺招揽。要完成一些高度技术性的任务，比如审核比当前令人惊叹的聊天机器人更强大的“前沿”法律硕士学位，需要熟悉红队测试、消除数据集偏见，并且如命令所述，理解“机器在一个数据中心物理位置上的，通过数据中心网络以每秒100Gb以上的速度传输，并具有最大计算能力为1020整数或浮点运算的理论极限”的机制。对于政府来说这是一项巨大的要求。拜登的命令还要求每个大型机构在60天内指定一位首席人工智能官员，这是白宫下达的一项指令，白宫连续三年未能填补首席技术官的职位。
这份命令规定了官方网站AI.gov应该在招聘上投入一些页面。主页鼓励访客“加入全国人工智能人才浪潮”。但即使是最有吸引力的模因也可能难以吸引到正在考虑Google或OpenAI提供高六位薪资的人工智能专业毕业生。EO中的一个很好的主意建议改变移民政策，消除目前AI人才希望在美国工作时所面临的障碍。但我怀疑反对增加移民的人（也就是每一个共和党人）可能会对此持反对意见。也许，像其他关于移民的总统指令一样，它将在法庭上受到挑战。曾帮助创建美国数字服务的Jennifer Pahlka在一篇文章中写道，为了满足对人工智能专家突然需求的需要，政府应该简单地改革过时的招聘方式。她写道：“人工智能即将像一辆卡车撞向我们，我们需要一个行之有效的公务员队伍，我们现在就需要它。”然而，按照她所建议的改革计划，可能不够时间来满足所有那些60天、90天甚至270天的截止日期。
相比于拜登行政命令的厚厚的详细任务清单，《布莱切利宣言》显得更像是对善意的表达。它的成就不在于指定要采取的任何行动，而是让所有国家在回国之前在单一声明上签字。许多个体签署者，特别是欧盟和中国，已经在规范人工智能方面走得比较远，但作为一个统一的实体，国际社会仍然处于起跑线上。这份宣言仅使用不到1200个字（比这篇文章还短）承认了人工智能的承诺和风险，并告诫人们在构建它时要负责任。当然，谷歌、微软等公司会告诉你，他们已经做到了。而缺乏具体细节似乎与该宣言的前提相矛盾，即情况是紧迫的。“人工智能模型可能造成严重，甚至灾难性的伤害”，它说道，显然是指人类绝灭。但是，它也提到了包括偏见透明度、隐私和数据在内的问题，并确认签字国家“肯定和督促解决这些问题的必要性和紧迫性”。然而，这份文件中唯一的截止日期是承诺在2024年再次会面。到那时，拜登政府将会被各种报告、机构间委员会和招聘工作所忙碌。与此同时，这两份文件中似乎没有任何东西能阻止人工智能变得更加强大和有用，甚至更具潜在危险。
长期以来，我们一直努力在享受人工智能的好处的同时限制其发展。我在1997年5月为象棋冠军加里·卡斯帕罗夫和IBM的深蓝计算机之间的著名比赛撰写前奏时思考了这种辩证法。新闻周刊的封面上写着：“大脑的最后一战。”
这场细胞与电路的重大冲突中存在着一种深层的讽刺。深蓝是一台机器，但它的训练包括来自充满激情的人类的编程和下棋课程。卡斯帕罗夫是人类的代表，但他正在与一台运行着复杂程序的计算机较量。双方的准备工作反映了我们所有人与进入我们曾经控制的领域的硅元素之间的关系。我们不是在竞争，而是在合作。如果电脑被从我们身边拔掉，飞机将停飞，汽车将熄火，手机将死机，收银机将静默，印刷机将停止工作，牛市将归于平静。硅是我们的终极义肢；工业化世界是一个人机融合的文化，我们的大部分智能工作都是与我们的数字伙伴一起（尽管不那么愉快地）完成的。计算机和人类是共同进退的。至少目前是这样。
这就是为什么我们对本周历史性的对弈感到有些忐忑不安。合作伙伴关系的条件可能会发生变化。我们人类可能会更加狡猾，但他们正在以量子飞跃的速度变得更加聪明。我们最害怕从硅元素伙伴那里听到一个词：将军。
加博尔问：“从现在开始一年内，新闻和通讯中将由人工智能写作的比例会是多少，并且这将如何改变新闻产业？”
感谢你的问题，加博尔。很高兴在T2/Pebble遗憾关闭之前从你那里得到这个问题。
现在来回答你的问题：我不知道人工智能是否会在一年内对新闻界产生重大改变。我毫不怀疑，AI生成的文章在比例上会很多，但人们实际阅读的大部分内容仍将由人类创作。这是因为现在，ChatGPT和其他系统的输出还无法达到即使是一位普通记者所能创作的水平。当出版物试图使用人工智能内容时，通常质量低下。而且使用人工智能内容会让为某家出版物工作的真正记者感到非常生气。
在中期，也就是三到五年后，我认为更好的LLM系统和更聪明的使用方法可能会在一定程度上改变这种局面，尤其是那些具有诱人标题的鼓动性文章。我不会惊讶，如果生成式人工智能能够比最愤世嫉俗的文字制造机和标题写手更有效地引诱人们点击那些底层文章。但这不会影响到高质量的媒体机构。目前，新闻行业的赢家似乎是那些依靠高质量报道和写作赢得订阅者的出版物，而不是那些仅追求流量的出版物。
从长远来看，答案就更加模糊了。我不知道这些系统在写作新闻方面的表现会有多好。十年或二十年后，可能会有一天，Plaintext可能会由其中一位高级AI作家撰写。人们会注意到吗？天哪，我希望如此。
你可以将问题发送到[email protected]。请在主题行中写上ASK LEVY。
遇见千新星——两颗中子星的碰撞。如果其中之一发生在地球的36光年范围内，所有生命将被彻底消灭数千年。至少我们不用担心人工智能。
这是拜登行政命令的又一个概述。
ENBLE的报道，关于英国人工智能安全峰会的来自伦敦的报道
《死侍》和《夜博士奇墓》的导演发表了关于流媒体和泰勒·斯威夫特的看法。
巴哈马群岛更美好了——现在Sam Bankman-Fried已经离开。
