三星和现代汽车支持人工智能初创公司Tenstorrent:每个人都希望与Nvidia竞争,Keller首席执行官表示

Samsung and Hyundai support AI startup Tenstorrent Everyone wants to compete with Nvidia, says CEO Keller.

芯片巨头Nvidia是当今人工智能领域最强大的力量,比微软、谷歌或OpenAI都更强大。其GPU芯片是该行业中用于ChatGPT等程序的主导计算形式。尽管经过多年的努力,一大批初创公司未能阻止其主导地位。

此外:最佳人工智能聊天机器人

然而,世界仍然渴望竞争,Nvidia可能面临风险,因为有人认为,Nvidia主导地位的经济学不能持续下去。

AI芯片初创公司Tenstorrent的首席执行官吉姆·凯勒在接受ENBLE的独家采访中表示:“Nvidia拥有垄断利润率。如果你想构建一个内部具有人工智能的高性能解决方案,Nvidia将占据产品中的大部分利润。全面取胜战略的问题在于它会产生一个人们真正想要替代品的经济环境。”

凯勒是计算芯片界的巨星,以长期成功的芯片成果而闻名,从扭转AMD的处理器业务,到创建苹果的定制处理器业务,再到建立特斯拉的Autopilot芯片平台。他认为行业对Nvidia的控制感到沮丧,以及RISC-V技术的出现,为替代品开辟了一条道路。

一些有影响力的人士认为他有机会。

此外:Mac复兴:苹果芯片过渡为何产生如此奇怪的Mac Pro配置

周三,凯勒宣布Tenstorrent获得了来自全球第三大汽车制造商现代汽车集团和电子巨头三星电子的风险投资部门Samsung Catalyst Fund以及Fidelity Ventures、Eclipse Ventures、Epiq Capital、Maverick Capital等的1亿美元资金。

这笔新资金是在之前接近2.5亿美元的资金之上,让成立七年的Tenstorrent拥有足够的资金来推出几款人工智能芯片。

凯勒表示,像许多公司一样,现代汽车对Nvidia的替代品感兴趣,比如将人工智能应用于汽车。该公司还拥有一个机器人部门,于2020年收购了麻省理工学院的机器人分拆公司波士顿动力。

凯勒称现代汽车是一家技术领导型公司,他说:“他们正在赚钱并将其投资于技术,因为他们看到了利用人工智能构建下一代产品的机会。”

此外:如何利用生成式人工智能平台实现超个性化

更重要的是,凯勒表示现代汽车“希望自主研发产品,并达到成本点和性能点。说实话,你不能给标准产品支付60%的毛利率给Nvidia,他们正在寻找其他选择。”

现代汽车全球战略办公室执行副总裁金亨秀在一份准备好的声明中表示:

“Tenstorrent的高增长潜力和高性能人工智能半导体将帮助集团为未来的移动性领域获得竞争性技术。

“通过这项投资,集团期望开发出优化但有差异化的半导体技术,这将有助于未来的移动性,并加强在人工智能技术开发方面的内部能力。”

凯勒和现代汽车执行副总裁兼全球战略办公室负责人金亨秀。

作为全球最大的半导体代工厂商之一,三星的投资尤为合理。该公司生产了凯勒所著名的许多芯片,包括特斯拉的Autopilot。三星知道伟大的事物从小小的开端开始,而今天的初创公司可能成为明天芯片制造的大客户。

此外:这些基于蘑菇的微型芯片可以为您的设备提供动力,并帮助拯救我们的地球

三星半导体创新中心负责人Marco Chisari在一份准备好的声明中表示:“Tenstorrent行业领先的技术、高管领导力和积极的路线图激励我们共同领导这轮融资。”他补充说:“我们对与Tenstorrent合作加速人工智能和计算创新的机会感到兴奋。”

与三星半导体创新中心负责人Marco Chisari合影的Keller。

在宣布融资的准备声明中,Keller对两家公司都表示赞扬:“现代汽车集团和三星催化剂基金领导我们的融资轮对Tenstorrent的信任真是令人感慨万分。”

对于 Keller 来说,他建造了许多世界上最快的芯片,这个论点主要是经济上的,但也非常依赖于技术。他说:“我不相信这个——使用CUDA和PyTorch运行的GPU——是AI的终极目标。‘当外星人降落时,我不认为他们会问我们,’我们发明了CUDA吗?’”Keller这样说道,他指的是Nvidia的用于运行神经网络的软件平台。

“虽然GPU今天取得了成功,但它们并不是显而易见的最佳答案,它们更像是一种可行的答案。” Keller提到了Nvidia芯片,例如H100“Hopper” GPU,这是Nvidia用于运行神经网络的主要产品。

此外:生成式AI和第四个原因:与客户建立信任

更先进的生成式AI模型,特别是来自开源软件社区的模型,将会导致领域在训练和推理之间的区别发生深刻变化。“我认为未来的AI引擎…将具备一系列不同的能力,而不仅仅是推理与训练之间的区别,而更像是两者的融合。”

他承认Nvidia在AI领域取得了巨大的领先优势,这要归功于联合创始人兼首席执行官Jensen Huang早期决定将公司的努力集中在软件上。

“坦率地说,AI软件挑战比任何人都想象中的要困难。” Keller观察到,“大多数AI初创公司是由硬件人员创办的。”他指出,Nvidia“在软件堆栈方面进行了更长时间的投资,部分原因是他们投资了高性能计算(HPC)(用于复杂科学工作负载的高性能计算)。”这需要为GPU开发特殊的编程框架。“他们进行了投资,并且让一些东西起作用了。”

但是,Keller认为,世界正在发生变化。他说,开源替代CUDA的出现,各种AI框架(如TensorFlow和PyTorch),以及由Stability.ai和MosaicML等公司创建并由Hugging Face等平台托管的开源模型,都是有希望的。“有趣的是,在软件领域正在发生的开源合作的数量,我们需要在硬件领域进行配合。”

为了与硬件的开源努力相匹配,Keller押注于RISC-V,这是一个由他的同行、著名芯片先驱David Patterson及其同事们于十多年前在加利福尼亚大学伯克利分校开发的开源芯片指令集。

此外:人工智能将永远改变开发者的角色。这是一个好消息,以下是原因

对于 Keller 来说,他是一个善于解决大规模问题的敏锐思考者,在经济和技术前景上有着关键的发展。“我喜欢探索这个领域,理解它,然后采取行动,”他说。

在传奇般的数字设备公司(Digital Equipment Corp.)的20世纪80年代和90年代,他曾建造过当时世界上最快的芯片。 Keller在2008年创办的一家初创公司P.A. Semi Inc.被苹果收购,并成为目前为所有苹果设备提供动力的”A系列”芯片的基础,这是与英特尔产生了意想不到的分裂。在 Keller 领导的团队开发了特斯拉的自动驾驶硬件之前,特斯拉只是一个“只生产不超过二十五万辆汽车的小型工程公司。”

他在AMD陷入困境的芯片开发上做出了贡献,当时“每个人都告诉我AMD将会破产。” Keller回忆道。他的努力不仅使公司从濒临破产中复苏,而且使其成为芯片巨头。

在2016年创办的Tenstorrent中,Keller看到了一些有趣的东西。该公司专注于深度学习AI模型(如OpenAI的GPT)规模爆炸所带来的芯片机会,这些程序要求越来越高的性能。

此外:GPT-3.5与GPT-4:ChatGPT Plus的订阅费值得吗?

Keller在特斯拉任职时曾是Tenstorrent的天使投资者,他认识该公司的创始人Ljubisa Bajic,后者曾在AMD为Keller工作。“我有机会审视了许多关于AI引擎的提案,我认为他的工作非常有趣。” Keller回忆道。

他在2021年1月加入Tenstorrent,并取得了首席职位。他解释说,”Tenstorrent在某种程度上是一个研究项目,而且我觉得我们开始找到了这个研究项目的方向。”

凯勒表示,AI的到来与RISC-V的到来以及Nvidia的主导地位造成的经济压力正在融合在一起,这一点是清楚的。

凯勒表示,未来的计算将被AI主导。随着规模不断增大,Tenstorrent为解决生成式神经网络而构建的芯片需要更多的硅芯马力,因此它们正在主导所有芯片设计。

与过去的努力一样,凯勒并没有简单地按照Tenstorrent的既定方案进行。他做出了一个令人惊讶的决定,不仅继续使用专用的AI芯片,还要构建一个能够处理AI芯片管理的通用CPU。

为此,凯勒表示:“我们决定构建一个RISC-V处理器作为AI处理器的通用计算伴侣,因为通用计算和AI将会一起工作,并且需要紧密嵌入。”

他说:“我从AMD、Apple和Nvidia聘请了一些最优秀的设计师。”他对这支CPU团队非常兴奋。

另外:AMD vs. Intel: 适用于专业人士、创作者和休闲玩家的顶级游戏CPU

曾经,软银集团旗下的非上市部门ARM是芯片行业在Intel和Nvidia的主导之间的潜在救星。但凯勒表示,情况已经发生了变化。他说:“我和ARM交流过很多次,ARM存在两个大问题。”

他说:“首先,如今它们的价格太高了。”对于使用ARM技术的公司来说,此前可以接受的经济情况已经变成了不断提高价格的局面,要求客户使用ARM技术构建的产品支付越来越高的费用。

他说,另一个问题是,ARM不愿意对基本指令进行修改以适应AI处理数据所需的新形式。“AI的变化速度很快,”凯勒观察到。他转向硅谷初创企业SiFive,后者通过许可RISC-V版本的芯片CPU进行商业运作。他说:“他们(ARM)不愿意对我下一代芯片所需的修改进行更改,而SiFive说,‘没问题。’”

凯勒强调,由于RISC-V的开放性,Tenstorrent及其客户可以拥有控制权,与垄断者打交道不同。“另一个设计目标是,如何构建人们有权利许可的优秀技术?”他说。

由于RISC-V的开放性,“慢慢地,RISC-V将取代一切,”凯勒表示,这意味着ARM、Nvidia自己的指令集以及构建在英特尔帝国之上的传统x86代码。

另外:Windows on Arm redux: 微软能否在年底之前带来硅芯的惊喜?

除了基于RISC-V的新CPU之外,Tenstorrent的AI加速器正在进行巨大变革,将RISC-V能力嵌入其中。凯勒解释说:“我们的AI引擎有一个大型矩阵乘法器、一个张量处理器、一个向量处理器,但它还有五个小的RISC-V处理器,基本上发出AI指令流。”

该公司刚刚开始销售其前两代芯片,并迅速推进第三代芯片的首批硅片的研发工作。

Tenstorrent业务将有多种赚钱途径。设计中的通用CPU是一个“高端处理器”,具有“许可价值”,此外还有可以销售的AI加速器芯片,同时也是可以许可的RISC-V AI引擎。

鉴于行业对Nvidia税的不满,应该会有很多人愿意接受,我们可以称之为H100和其他零部件的高价。

他说:“我与电源供应公司、微控制器公司、自动驾驶初创公司和数据中心边缘服务器制造商进行了交流。”他表示:“如果您自己制造芯片,并希望在其中加入AI引擎,您无法将价值2000美元的GPU放入其中。”他观察到:“我和两家机器人公司交流时得出的结论是:我无法在一台价值10000美元的机器人中放入一块价值10000美元的GPU。”

当然,如今英伟达似乎是一家没有竞争对手的公司。它在像MLPerf这样的芯片性能基准测试中经常占据主导地位。其数据中心业务,其中包括人工智能芯片,远远超过了英特尔和AMD的人工智能销售额。该部门的收入可能在今年以收入为基准翻番,达到310亿美元,几乎是英特尔年度收入的三分之二。

一批充满了极其有才华的工程师的初创企业,例如Cerebras Systems,Graphcore和Samba Nova Systems,尽管每个人都希望有一种与英伟达不同的选择,但都未能对其造成影响。

所有这些都不会让凯勒感到畏惧,他在芯片设计领域的一生中经历了许多战斗并获得了胜利。对他来说,其中一个原因是这些公司没有利用RISC-V技术,而这在他看来是一个改变游戏规则的因素。“如果我们五年前就提出了开源的RISC-V AI引擎”,凯勒说,“那么50家初创公司就可以在其基础上进行创新,而不是像Cerebras和其他公司那样以15种不同的方式解决同一个问题,重复50次。”

从一个更简单的层面来说,人们总是认为现状将保持不变,但事实并非如此。

“计算的战争已经结束很多次了,”凯勒沉思道。“大型机赢了,然后是小型计算机赢了,然后是工作站赢了,然后是个人电脑赢了,然后是移动设备赢了——战争已经结束,所以让我们开始下一场战斗吧!”

甚至更简单地说,“我认为计算机是一次冒险,”他说。“我喜欢设计计算机;我热衷于这种冒险。”