Meta首次推出定制AI芯片

Meta首次推出AI芯片

Meta在周四发布了其首款芯片MTIA,该公司称其经过了与公司的PyTorch开发人员的密切合作,专为运行推荐引擎进行了优化。

Meta,Facebook、WhatsApp和Instagram的所有者,周四揭示了其首款专为处理人工智能程序而定制的计算机芯片,称为Meta训练和推断加速器,或“MTIA”。

该芯片由并行操作的电路块组成的网格构成,运行使用Meta的PyTorch开源开发框架优化程序的软件。

此外:深度学习是什么?你需要知道的一切

Meta将该芯片描述为针对一种特定类型的AI程序进行调谐的:深度学习推荐模型。这些程序可以查看活动模式,例如在社交网络上点击帖子,并预测相关的可能相关的材料以推荐给用户。

该芯片是Meta所称的芯片系列的第一版,并于2020年开始。关于未来芯片型号何时推出的详细信息尚未提供。

Meta紧随其他巨型科技公司的脚步,除了使用主导该领域的Nvidia标准GPU芯片外,还开发了自己的AI芯片。过去几年,微软、谷歌和亚马逊都推出了多个定制芯片,以处理AI程序的不同方面。

此外:Nvidia、Dell和Qualcomm在最新的基准测试中加速AI结果

Meta的公告是周四的一个广泛展示的一部分,Meta的几位高管在展示中讨论了他们如何加强Meta的人工智能计算能力。

除了MTIA芯片,该公司还讨论了正在建设的“下一代数据中心”,该数据中心将是一个面向人工智能优化的设计,支持液冷AI硬件和连接数千个AI芯片的高性能AI网络,用于数据中心规模的AI训练集群。

此外:ChatGPT和新的AI给网络安全带来了麻烦

Meta还披露了一款名为Meta可扩展视频处理器(MSVP)的定制视频编码芯片。该芯片旨在更高效地压缩和解压缩视频,并将其编码为多种不同格式,供Facebook用户上传和观看。Meta表示,MSVP芯片“在最高质量配置下能够以15fps的峰值转码性能提供4K,并且能够在标准质量配置下扩展至60fps的4K”。

Meta表示,与依赖Nvidia GPU或英特尔CPU不同,”考虑到未来与AI相关的用例,我们认为专用硬件是计算能力和效率的最佳解决方案”。

该公司指出,人们在Facebook上花费了一半的时间来观看视频,每天有超过40亿次视频观看。

此外:满足后AI时代的开发者:更有创造力,更注重商业

多年来,Meta一直暗示其开发芯片的计划,例如在2019年,其首席AI科学家Yann LeCun在接受ENBLE采访时提到了这个问题。即使其他公司纷纷推出芯片,以及像Cerebras Systems、Graphcore和SambaNova Systems这样的初创公司推出了专注于AI的异类芯片,该公司仍对这些努力的细节保持沉默。

MTIA芯片具有与这些初创公司的芯片相似的特点。在芯片的核心部分,有64个所谓的处理器单元的网格,按8×8的方式排列,这种设计与许多采用所谓的“脉动阵列”的AI芯片相似,在该设计中,数据可以以最高速度通过元素。

MTIA芯片在处理人工智能程序的两个主要阶段中,训练和推断,都有一定的特殊之处。训练是AI程序的神经网络首次优化,直到其按预期运行的阶段。推断是使用神经网络对用户请求进行预测的实际应用阶段。通常,这两个阶段在计算处理方面有非常不同的要求,并由不同的芯片设计处理。

此外:这项新技术可能会击败GPT-4以及类似产品

据Meta称,MTIA芯片在每瓦耗电量的浮点运算次数方面可以比GPU高效三倍。然而,当芯片面临更复杂的神经网络任务时,它落后于GPU。Meta表示,需要在未来的芯片版本上进行更多工作以处理复杂任务。

Meta的工程师们在周四的演示中强调了MTIA从硬件-软件“协同设计”中获益,其中硬件工程师与公司的PyTorch开发人员进行持续对话和交流。

除了在PyTorch或C++上编写用于在芯片上运行的代码外,开发人员还可以使用专门为芯片开发的一种语言——KNYFE进行编写。Meta表示,KNYFE语言“以简短、高级的机器学习操作描述作为输入,并生成优化的、低级的C++内核代码,作为MTIA的实现”。

此外:Nvidia表示可以防止聊天机器人产生幻觉

Meta介绍了它如何将多个MTIA芯片集成到基于Meta帮助开创的开放计算项目的服务器计算机中。

有关MTIA的更多细节可以在Meta的博客文章中找到。

Meta的工程师们将于6月在佛罗里达州奥兰多市举行的国际计算机体系结构研讨会上发表一篇关于该芯片的论文,题为“MTIA:针对Meta推荐系统的第一代硅芯片目标”。