别小看Gaudi 3,其采取低成本和慢慢蚕食战略,伺机夺下AI芯片市场
原文网址:
https://bit.ly/3xOU5as
原文:
为了加强与辉达在AI训练和推理应用芯片市场的竞争,英特尔推出了人工智能加速器芯片
Gaudi 3。该公司声称它比Nvidia的H100 GPU更快、更有效率,并且与Nvidia最近推出的
Blackwell级GPU相比“极具竞争力”。
英特尔声称,Gaudi 3在训练大语言模型方面比H100快1.7倍。在推理方面,Gaudi 3的推
理应用速度比H100快1.5倍,也比H200快1.3倍。英特尔还表示,Gaudi 3在运行LLM时的能
效比H100高出2.3倍。最重要的是,Gaudi 3的成本预算仅仅是辉达H100的一小部分。
由于这些因素,使得Naver(韩国网络公司)、博世、IBM、Ola等成为英特尔Gaudi 3的客
户和合作伙伴。而2024年第二季度,英特尔将向戴尔、惠普以及超微型电脑(Super
Micro Computer)、和联想等OEM厂商首批供货。正式上市时程却是在第三季。
基本上,Gaudi 3 AI加速器可描述为具有“异质电脑架构”。它拥有64颗Tensor处理器核
心(第五代)、8个矩阵数学引擎、128 GB HBM容量(3.7 TB/s)、96 MB SRAM(12.8
TB/s)、24个200 GbE RoCE以太网路连接埠和PCIe 5。
虽然Gaudi 3比起H100更好,但是却不足以对抗辉达Blackwell平台。英特尔构思的策略是
,随着企业面临AI成本不断上升的问题,任何能够保持效能但价格更实惠的产品都将是非
常具吸引力的解决方案。从平台特性和功能来说,辉达Blackwell平台绝对没有一家公司
能够与之抗衡,但是价格标签是Blackwell的一个严重阻碍,更何况辉达宣称,B100芯片
初期将供不应求。
这就给英特尔一个战略的切入点,毕竟,想要省钱但却在可接受替代方案上,Gaudi 3产
品的确是最佳选择。
如果当初英特尔直接研发出超越B100的AI芯片,可能会面临在硬件技术领先,但整体生态
追不上,且成本过高的窘境。反而没有其他公司愿意尝试Gaudi 3。如今在成本优势下,
Gaudi 3在性能上超越H100,就足以让其他公司愿意尝试采用,毕竟,英特尔并未拥有
CUDA的软件。
换句话说,想要其他企业采用Gaudi 3,英特尔必须在软件上齐头并进。有了低成本的硬
体,企业才有尝试UXL开源软件平台的勇气。
英特尔知道辉达成功的关键之一是CUDA,甚至说是软硬件结合的生态体系,所以初期策略
绝对不要硬碰硬,而且慢慢蚕食辉达的市场占有率。先让一小部分企业愿意尝试Gaudi 3
和其开源软件平台,再透过口耳相传以及企业反馈,来抢夺市场大饼。
如今仍难以知道英特尔这些战略会不会奏效,还是要等产品上市才能揭晓。但从战略角度
上,的确是具有威胁力的尝试啊!