美国希望中国开始就人工智能武器展开对话

美国呼吁中国就人工智能武器开启对话

当美国总统乔·拜登本周在旧金山湾区与中国国家主席习近平会面时，双方将有一长串事项需要讨论，包括以色列-哈马斯战争和俄罗斯对乌克兰的持续入侵。

然而，在APEC峰会的幕后，美国官员希望与中国就围绕军事使用人工智能制定准则展开对话，最终的目标是减少快速采用和鲁莽使用这一技术可能带来的潜在风险。

“由于意外升级的风险，我们在减少不可靠人工智能应用部署的潜在风险方面有共同利益，”一位熟悉最近努力提出该问题的国务院高级官员匿名表示。“我们非常希望与中国就这个问题进行进一步对话。”

拜登本周与习近平的会晤可能为更多的军事对话提供动力。“我们非常期待一次积极的领导人会晤，”国务院官员表示。“我们可以从那次对话中真正了解到，我们可能的双边军备控制和防扩散对话可以取得什么进展。”

美国已经带头努力在国际上建立围绕军事人工智能的安全准则的共识。11月1日，副总统卡玛拉·哈里斯宣布30个国家已经同意支持一项关于军事人工智能的宣言，要求根据国际人道法来发展技术，使用旨在提高可靠性和透明度、减少偏见的原则，以便在系统展示“意外行为”时能够解除关联。

美国一直在游说其他国家加入该宣言，并将在今天在联合国发起该宣言的实施，该宣言现在已被其他45个国家签署。

国防政策代理副部长萨莎·贝克表示，该宣言“推进了关于负责任军事使用人工智能和自主技术的国际准则，为建立共同理解提供了基础，并创建了一个为所有国家交流最佳实践的群体。”

美国、中国和欧盟都启动了旨在塑造人工智能监管的倡议。本月早些时候，来自许多国家的代表在英国聚集在一起，签署了一份关于人工智能风险的声明。与此同时，所有有资源的国家都在以尽快推进人工智能的方式进行竞赛。

然而，人工智能的军事潜力已经成为中美关系日益复杂的关键问题。许多政策制定者将该技术视为美国获取优势的关键途径。这也是为什么美国试图限制中国获取先进半导体的关键原因，以阻碍其将技术用于军事目的的能力。

主张军事采用人工智能的政策制定者也承认，这项技术可能带来一系列新的风险，包括使用人工智能增加潜在对手之间的不信任，或者出现系统故障引发敌对行动升级的可能性。

“应该有一些空间来讨论与致命自主武器系统相关的人工智能使用问题，”艾伯特·斯通布里奇集团的中美政策问题专家保罗·特里奥洛表示。

迄今为止，禁止针对人类的致命自主武器的努力在联合国的讨论中陷入停滞，但本月宣布的一项新决议可能会为限制提供更多动力。

特里奥洛表示，美国和中国需要先就此类武器达成一个定义的共识。但他认为，由于美国制裁直接针对中国的高级人工智能开发能力，任何对话“必然需要包括对美国对先进计算硬件的控制的讨论。”

加州大学伯克利分校的公共政策副研究教授安德鲁·雷迪表示，遏制人工智能武器风险的共同利益可能会克服中美之间的不信任。“在减少风险方面，有关风险减少的对抗合作的长期历史可谓弥足珍贵，符合两国协议的利益，”他说。

据《南华早报》报道，中美可能利用APEC会议宣布一项限制在某些军事系统中使用人工智能的协议。雷迪表示，考虑到双方之间的差距，任何这样的协议可能只是象征性的和无约束力的。

即使致命的自主武器被禁止，人工智能的鲁莽使用可能导致军事系统失败。乌克兰作战部队快速采用低成本无人机自主技术，突显出这种技术的颠覆潜力，并且这促使包括美国在内的许多军队重新思考他们的技术重点。

美国和中国军队最近才开始重新展开对话。南希·佩洛西参观台湾后，北京中止了军事对话。中国视台湾为中国不可分割的一部分，台湾也恰好是全球最先进的半导体制造商台积电的所在地。

今年2月，美国击落了一架越过北美的中国间谍气球，五角大楼表示国防部长劳埃德·奥斯汀通过特殊热线无法联系到他的中国对手。

南中国海最近的事件突显了美国和中国军队之间进行沟通的必要性。今年10月，美国国防部发布了显示中国战斗机在该地区接近美国飞机时进行不安全机动的视频镜头。本月，中国国防部公布了一段自己的视频，称在南中国海发生了“美国军舰的侵犯和挑衅”。

莱顿大学助理教授罗吉尔·克里默斯研究中国技术政策，他表示人工智能系统可能会使这类事件更加复杂或危险。“你不希望一个自动决策系统在面临这些事情时无法保持冷静和冷静。”

然而，中国已经表示愿意重新开始对话。今年10月，在中国的香山论坛上，中央军委副主席张又侠表示：“我们将加强战略合作与协调，并愿意在相互尊重、和平共处和合作共赢的基础上与美国发展军事关系。”

更新时间为2023年11月13日下午2点，美东时间：此文章已附上安德鲁·雷迪和罗吉尔·克里默斯的评论。