AMD正在AI竞争中解开拳套

AMD在人工智能领域竞争中揭开拳套

AMD首席执行官展示MI300X人工智能GPU。
AMD

AMD看起来准备好战斗了。在其“推动AI”活动上,该公司终于推出了Instinct MI300X人工智能GPU,我们几个月前首次听说了这一消息。令人激动的发展是AMD声称在与房间里的“绿色AI巨象” Nvidia相比拥有更高的性能。

AMD声称,MI300X在存储容量和存储带宽方面击败了Nvidia的H100 AI GPU,并且其在FP8和FP16操作中的理论性能是H100的1.3倍。AMD通过使用中型和大型内核来展示了这一点。与H100相比,MI300X显示了1.1倍到1.2倍的改进。

AMD首席执行官展示MI300X AI GPU的性能。
AMD

在一个看起来像是直接从Nvidia大会上剪裁出来的时刻,AMD首席执行官Lisa Su介绍了MI300X平台,该平台将八个GPU组合在一个单一的板上。AMD表示,这些板与Nvidia的H100 HGX具备相同的训练性能,并且具备1.6倍的推理性能。此外,AMD还表示您可以在一个系统上运行两个LLM,而H100 HGX只能处理一个。

为了说明这个问题有多重要,AMD请出了微软首席技术官Kevin Scott来谈论AMD和微软如何在人工智能方面展开合作。重要的是要强调,广受欢迎的ChatGPT是在微软服务器上运行的,最初是在数千个Nvidia GPU上进行训练。

AMD的MI300X与Nvidia的H100比较。
AMD

除MI300X外,AMD还宣布了MI300A,这是首个用于人工智能的APU。它将AMD的CDNA 3 AI GPU架构与24个Zen 4 CPU核心以及128GB的HBM3内存结合在一起。AMD表示,这是在AI性能和高性能计算之间取得平衡的解决方案,为数据中心提供了与最近在Threadripper 7000上看到的CPU实力。

尽管如同其他科技公司一样跳上了人工智能热潮,但AMD到目前为止一直被迫在Nvidia之后。多年来,Nvidia一直大举投资人工智能,使其在AMD和英特尔之前拥有了巨大的先发优势。这种早期投资使得Nvidia在今年成为了一个万亿美元的公司。

凭借能够挑战Nvidia的H100的GPU集群,以及与Meta和微软的合作伙伴关系,AMD终于进入了竞争圈。AMD可能会受伤和破血,但它看起来仍然准备好进行一场激烈的战斗。