“AI 动力下的、完全自主的战争未来已经来临”
The future of fully autonomous warfare under the power of AI has arrived.
一群机器人船只在波斯湾温暖的水域中轻轻晃动着，位于巴林和卡塔尔之间，可能距离伊朗海岸大约100英里。我站在附近的美国海岸警卫队快艇的甲板上，眯起眼睛看着我理解为左舷的方向。在2022年12月初的这个早晨，地平线上点缀着油轮、货船和小渔船，都在炎热中闪烁。当快艇绕着机器人舰队穿行时，我渴望有一把阳伞，甚至一个云朵。
这些机器人并不像我那可怜的人类一样需要遮阳，也不需要其他生物学上的便利设施。这在它们的设计中显而易见。有几个类似于我所在的巡逻艇，但大多数更小、更苗条、更接近水面。有一个看起来像是太阳能动力的皮划艇。另一个看起来像是带有金属帆的冲浪板。还有一个让我想起谷歌街景车的浮船。
这些机器聚集在这里是为了参加美国海军第五舰队内的59号特遣队的一次演习。它的重点是机器人技术和人工智能，这两项快速发展的技术正在塑造战争的未来。59号特遣队的任务是迅速将它们整合到海军行动中，它通过从私营承包商那里获取最新的现成技术，并将这些技术组合成一个有机整体来实现这一目标。这次在波斯湾的演习汇集了十几个无人平台——水面舰艇、潜艇和空中无人机。它们将成为59号特遣队的分布式眼睛和耳朵：它们将用摄像头和雷达监视海洋表面，用水听器聆听水下，然后将它们收集到的数据通过模式匹配算法进行分析，将油轮与走私船分开。
快艇上的另一个人注意到了一个冲浪板式的船只。它突然像弹簧刀一样折叠起帆，然后悄无声息地消失在浪涛之下。这艘名为Triton的船只可以在系统感知到危险时进行这种操作。在我看来，这种消失的特技在现实世界中可能会非常有用：就在这次演习前的几个月，一艘伊朗军舰扣押了两艘名为Saildrones的无人船，它们无法潜水。海军不得不介入才能将它们夺回。
Triton可以在水下停留长达五天，当海岸线清晰可见时重新浮出水面，充电并与其母船通信。幸运的是，我的快艇不会停留那么长时间。它启动引擎，轰鸣着回到一艘150英尺长的海岸警卫队巡逻船的停泊区。我径直走向上层甲板，我知道那里有一个帐篷下的一堆瓶装水。当我走过时，我审视着指向海面的重型机枪和迫击炮。
- 希腊人工智能航运初创公司被日本自动化巨头收购
- “Apple Pay夏季促销活动在雷朋（Ray-Ban），声波（Sonic）等品牌提供折扣”
- Stardew Valley+ 现已在 Apple Arcade 上线
随着巡逻船返回巴林的基地，甲板在风中变得凉爽起来。在旅途中，我和船员们聊天。我急于与他们讨论乌克兰战争以及那里对无人机的大量使用，从装备有手榴弹的业余四旋翼飞行器到完全军事化的系统。我想问他们关于最近对俄罗斯占领的塞瓦斯托波尔海军基地的一次袭击，该袭击涉及到一些携带炸药的乌克兰制造的无人船——以及公开的众筹活动以建造更多无人船。但是我的陪同人员，一家社交媒体公司Snap的预备役人员告诉我，这些对话将不可能进行。因为第五舰队在另一个地区进行行动，所以59号特遣队对乌克兰的情况了解不多。相反，我们谈论了AI图像生成器以及它们是否会让艺术家失业，以及平民社会似乎正在达到自己的人工智能拐点。事实上，我们还不完全了解这一切。距离OpenAI推出ChatGPT 504，即将打破互联网的对话界面，仅仅过去了一天。
艺术：Julien Gobled；盖蒂图片社回到基地，我前往机器人作战指挥中心，在那里一群人负责监控水上的分布式传感器。机器人作战指挥中心是一个没有窗户的房间，有几排桌子和电脑显示器，除了墙壁上装饰着温斯顿·丘吉尔和史蒂夫·乔布斯等人的励志名言外，整个房间显得相当朴素。在那里，我遇到了59号特遣队的负责人迈克尔·布拉瑟上尉，他是一个晒黑的人，头发剃得干干净净，眯着眼睛微笑着走来走去。（布拉瑟已经从海军退役。）他在愉快地解释机器人作战指挥中心的运作方式时，来回穿梭于桌子之间。“这是我们将所有无人系统传来的数据融合起来，并利用人工智能和机器学习获得一些令人兴奋的见解的地方，”布拉瑟说着，一边揉着双手，一边咧嘴笑着。
监控器闪烁着活动。59号特遣队的人工智能在该区域内突出显示可疑的船只。今天它已经标记了一些未能与其识别信号匹配的船只，促使舰队更加仔细地观察。Brasseur向我展示了正在开发中的新界面，该界面将使他的团队能够在一个屏幕上执行许多任务，包括查看无人船的摄像头视频，并将其引导靠近行动区。
“它可以自主参与，但我们不建议这样做。我们不想引发第三次世界大战。”
基地的Brasseur和其他人强调，他们正在测试的自主系统仅用于感知和探测，而不是武装干预。“59号特遣队目前的重点是提高可见性，”Brasseur说。“我们在这里做的一切都支持船员和舰艇。”但是，参与演习的一些机器人船只说明了无人与武装之间距离多么短暂——只需更换有效载荷并调整软件。一艘名为Seagull的自主快艇专门用于通过拖曳声纳阵列来搜索水雷和潜艇。以色列国防公司Elbit Systems的高级主任Amir Alon告诉我，它还可以配备远程操纵的机枪和从甲板上发射的鱼雷。“它可以自主参与，但我们不建议这样做，”他笑着说。“我们不想引发第三次世界大战。”
是的，我们不想。但是Alon的妙语触及了一个重要的真相：具备杀伤能力的自主系统已经在全球范围内存在。在任何一场重大冲突中，即使不到第三次世界大战的程度，双方都很快将面临诱惑，不仅武装这些系统，而且在某些情况下取消人类监督，使机器能够以机器速度战斗。在这场人工智能对抗人工智能的战争中，唯有人类将死亡。因此，合情合理地想知道：这些机器以及建造它们的人是如何思考的？
美国军方几十年来一直有自主技术的雏形，从飞机和无人机上的自动驾驶软件到保护战舰免受来袭导弹的自动甲板炮。但这些都是有限的系统，设计用于在特定环境和情况下执行指定功能。或许是自主的，但不智能。直到2014年，五角大楼的高层军官才开始考虑更有能力的自主技术，将其视为解决更大问题的解决方案。
时任副防长的鲍勃·沃克当时担心，美国的地缘政治对手“正在接近平衡”美国军方。他想知道该如何“重新占据优势”，他说，即使美国无法部署像中国那样多的士兵、飞机和舰艇，也能在任何潜在冲突中取得胜利。因此，沃克询问了一群科学家和技术专家，国防部应该把重点放在哪里。他回忆说：“他们回来说，AI增强的自主性。”他开始制定一项国家防御战略，培育科技领域正在出现的创新，包括机器学习提供的新兴能力。
这并非易事。美国国防部确实完成了一些项目，包括2000万美元的实验性战舰Sea Hunter和一支经改装的常规船只编队Ghost Fleet Overlord，以执行自主任务。但是到2019年，该部门试图接触大型科技公司的努力出现了波折。在为军事行动建立支持人工智能的单一云基础设施的努力成为一个政治敏感的问题，并被放弃。谷歌的一个涉及使用人工智能分析航空图像的项目受到了公众批评和员工抗议的风暴。当海军发布其2020年造船计划时，即美国舰队未来30年的发展纲要，强调了无人系统的重要性，特别是大型水面舰艇和潜艇，但为其开发相对少量的资金。
在五角大楼的一个小办公室里，一位名叫迈克尔·斯图尔特的前海军飞行员对这个问题非常了解。负责监督为美国舰队开发新的战斗系统，斯图尔特开始感到，海军就像Blockbuster在进入Netflix时代时走路而不自知。多年前，在哈佛商学院，他曾上过克雷·克里斯滕森（Clay Christensen）的课，这位学者研究大型成功企业如何被市场上较小的新进入者打破——通常是因为对当前业务的关注导致他们错过了新的技术趋势。对于海军来说，正如斯图尔特所看到的那样，问题在于如何加快机器人技术和人工智能的采用，而不陷入机构官僚主义。
当时，其他人也在思考类似的问题。例如，去年12月，政府资助的国防智库兰德公司的研究人员发表了一份报告，提出了一条备选路径：与其资助少数价格昂贵的自主系统，为什么不通过群体购买更便宜的系统呢？该兰德报告引用了几场有关中国入侵台湾的实战推演，指出部署大量低成本的空中无人机可以显著提高美国取胜的机会。通过提供台湾海峡中每艘船只的画面，兰德所称的“小猫咪”假设无人机可能使美国能够迅速摧毁敌人的舰队。（中国的一份军事杂志当时注意到了这个预测，并讨论了“小猫咪”在台湾海峡的潜力。）
图片：朱利安·戈布雷德（Julien Gobled）；盖蒂图片社（Getty Images）2021年初，斯图尔特（Stewart）和一群同事起草了一份名为“无人作战框架”的40页文件。该文件概述了海军使用自主系统的一项实验性计划，放弃传统采购，转而尝试使用廉价的机器人平台进行实验。该计划将涉及一个小型多样化团队——人工智能和机器人专家、海军战略专家等——他们可以共同快速实施想法。“这不仅仅是关于无人系统，”斯图尔特说。“这更多地是一个组织故事。”
斯图尔特的计划引起了第五舰队的副司令布拉德·库珀（Brad Cooper）的关注，该舰队领土范围包括从苏伊士运河到波斯湾的阿拉伯半岛周围的250万平方英里的水域。该地区有许多航道对全球贸易至关重要，同时也充斥着非法捕鱼和走私活动。斯图尔特说，自海湾战争结束以来，当时五角大楼的注意力和资源转向亚洲后，库珀一直在寻找用更少资源做更多事情的方法。伊朗加大了对商船的袭击，他们通过武装快艇包围商船，甚至使用无人机和远程操作艇进行袭击。
库珀邀请斯图尔特与他和布拉索（Brasseur）一起前往巴林，并共同创建了59号特遣队。他们研究了世界其他地方已经使用的自主系统，例如用于收集气候数据或监测海上油平台的系统，并得出结论，租赁和修改这些硬件的成本将只是海军通常花在新舰船上的一小部分。然后，59号特遣队将使用人工智能驱动的软件将这些组件整合在一起。“如果新的无人系统可以在这些复杂的水域中操作，”库珀告诉我，“我们相信它们可以被扩展到其他美国海军舰队。”
在他们建立新特遣队的同时，那些水域变得越来越复杂。2021年7月29日凌晨，在阿曼海岸线沿北行的一艘名为“Mercer Street”的油轮上，两架黑色的V形无人机出现在地平线上，在晴朗的天空中掠过，然后在海中爆炸。一天后，当船员从水中收集了一些残骸并报告了这一事件后，第三架无人机俯冲轰炸了船上控制室的屋顶，这次引爆了一个炸药，撕裂了建筑结构，造成两名船员死亡。调查人员得出结论，这三架“自杀无人机”是伊朗制造的。
斯图尔特心中最担心的威胁是中国。“我的目标是在五年内迅速使用廉价或更便宜的装备，传递一种威慑信息，”他说。但是中国当然也在大量投资军事自主技术。2021年，乔治城大学的一份报告发现，中国人民解放军每年在该技术上的投资超过16亿美元，与美国大致相当。该报告还指出，类似于59号特遣队正在使用的自主舰船是中国海军的一个主要关注点。他们已经开发出一种类似于“海猎人”的克隆品，以及据称是一艘巨型无人机母舰。
然而，直到俄罗斯入侵乌克兰之前，斯图尔特并没有注意到他的工作引起了太多的兴趣。“人们给我打电话说，‘你知道你之前谈到的那些自主技术吗？好的，告诉我更多，’”他说。像我在巴林遇到的水手和官员一样，他不愿具体评论这种情况——不论是有关塞瓦斯托波尔无人艇袭击的事情，还是关于美国去年春天向乌克兰提供的价值8亿美元的援助计划，其中包括数量不详的“无人沿海防御舰艇”，亦或是乌克兰开发全自主杀手无人机的工作。斯图尔特只是说：“时间表明确地发生了变化。”
Hivemind是设计用于飞行F-16战斗机的，它可以在模拟器中击败大多数人类飞行员。
我现在身处加利福尼亚州圣地亚哥，这是美国太平洋舰队的一个主要港口，国防初创公司就像藤壶一样生长。就在我面前，一个被棕榈树环绕的高玻璃建筑里，是Shield AI的总部。斯图尔特鼓励我参观这家公司，他们生产的V-BAT是一种空中无人机，59号特遣队正在波斯湾进行实验。虽然外观奇特——呈倒置的T形状，底部有机翼和单个螺旋桨——但它是一件令人印象深刻的硬件，体积小而轻，由一个两人团队几乎可以在任何地方发射。但我来看的是V-BAT内部的软件，一个名为Hivemind的人工智能飞行员。
我走过公司明亮的白色办公室，经过工程师们忙碌于无人机和代码的场景，来到一个小型会议室。在那里，我在一个大屏幕上观看三架V-BATS在加利福尼亚沙漠上进行的模拟任务。附近有一场野火正在燃烧，他们的任务是找到它。飞机垂直从地面起飞，然后向前倾斜并朝不同的方向飞去。几分钟后，其中一架无人机定位到了火灾，并将信息传递给其他无人机。它们调整飞行，靠近火灾以绘制其完整范围。
艺术：Julien Gobled；盖蒂图片这些模拟的V-BAT并不是按照直接的人类指令行动。它们也不是按照人类在常规软件中编码的命令——那种严谨的如果这样，就那样的命令。相反，无人机是自主感知和导航其环境，规划如何完成任务，并在一个群体中协同工作。Shield AI的工程师们通过强化学习的方式部分训练了Hivemind，将其部署在成千上万次模拟任务中，逐渐鼓励它找到完成任务最有效的方法。“这些是能够思考和做出决策的系统，”该公司的联合创始人、前海豹突击队队员Brandon Tseng说道。
这个版本的Hivemind包括一个相当简单的子算法，可以识别模拟的野火。当然，一组不同的子算法可以帮助无人机群识别任意数量的其他目标——车辆、船只、人类战斗人员。该系统不仅限于V-BAT。Hivemind还设计用于驾驶F-16战斗机，它可以在模拟器中击败大多数人类飞行员（该公司设想这种人工智能成为最新一代战斗机的“副驾驶员”）。Hivemind还操作着一种名为Nova 2的四旋翼飞行器，它体积小到足以放入背包中，可以探索和绘制建筑物和地下设施的内部。
对于59号特遣部队（或任何有意转向人工智能和机器人技术的军事组织）来说，这些技术的吸引力是显而易见的。它们不仅提供了战场上的“增强视野”，正如Brasseur所说，还能够在更少的实际人员参与的情况下投射力量（和潜在使用武力）。你可以派遣一队V-BAT或Nova 2来执行搜救任务或侦察任务，而不是派遣数十名人类无人机操作员。你可以派遣一群廉价无人机的群体攻击，而不是冒着昂贵训练的飞行员生命的危险进行空中打击，而这些无人机由同一套顶尖人工智能驾驶，每一架都是同一个集体智慧的延伸。
然而，尽管机器学习算法可能令人惊讶，但它们可能是难以捉摸和不可预测的。在我参观Shield AI时，我与该公司的一架Nova 2无人机有过短暂的接触。它从地板上升起，悬浮在离我的脸大约一英尺的地方。“它在查看你，”一名工程师说道。片刻之后，无人机向上嗡嗡飞起，并穿过房间一侧模拟的窗户。这种经历让人感到不安。在瞬间，这个小小的空中智能体对我做出了判断。但是它是怎么做到的呢？尽管Shield AI的工程师们可以回放和分析机器人决策的元素，但该公司仍在努力将这些信息提供给“非专业用户”。
只需看看民用领域，就可以看到这种技术可能会出现的问题——显示种族和性别偏见的人脸识别系统，撞到从未接受过训练的物体的自动驾驶汽车。即使经过细致的工程设计，一个结合了人工智能的军事系统也可能犯类似的错误。一个经过训练以识别敌方卡车的算法可能会被民用车辆所困惑。一个设计用于应对来袭威胁的导弹防御系统可能无法完全“解释”为什么误射。
这些风险引发了新的伦理问题，类似于涉及自动驾驶汽车事故引发的问题。如果自主军事系统犯下致命错误，谁负责？是负责行动的指挥官，负责系统监控的军官，构建算法和网络集体智慧的计算机工程师，提供训练数据的经纪人？
有一件事是确定的：技术正在迅速发展。当我遇到曾先生时，他说Shield AI的目标是在2023年拥有“一个由三个V-BAT组成的作战团队，2024年拥有六个V-BAT，2025年拥有十二个V-BAT。”我们相遇八个月后，Shield AI从一个空军基地发射了一个由三个V-BAT组成的团队，执行了模拟野火任务。该公司还声称Hivemind可以接受各种任务的培训，包括搜索导弹基地、与敌机交战，并且即将能够在通信受限或中断的情况下进行操作。
在我离开圣地亚哥之前，我参观了USS Midway，这是一艘在二战结束时投入使用的航空母舰，现在永久停靠在海湾。几十年来，这艘船搭载了世界上最先进的军事技术，作为数百架飞机的浮动跑道，执行从越南到伊拉克的侦察和轰炸任务。在航母的中心，就像一个巨大的金属胃，是机库甲板。一侧的门通向一个兔子巢穴般的走廊和房间，包括狭小的水手宿舍、舒适的军官卧室、厨房、医务室，甚至还有一个理发店和一个洗衣房——这是4000名水手和军官曾经称之为家的船只的一个提醒。
站在这里，我能感受到自主性的转变将是多么深远。也许在没有人员的船只数量超过有人员的船只之前，需要很长时间，甚至更长时间才会出现无人机母船统治海洋的情况。但59号特遣队的机器人舰队，尽管还处于初级阶段，却标志着进入另一个世界的一步。也许这将是一个更安全的世界，一个全球部署自主无人机网络帮助人类控制冲突的世界。或者也许天空将被攻击群体所笼罩。无论未来在地平线上是什么，机器人都在朝那个方向航行。
本文发表于2023年9月号。立即订阅。
请告诉我们您对这篇文章的看法。发送给编辑的信件地址是[email protected]。
