[新闻] 亚马逊、Alphabet、Meta和微软在AI芯片

楼主: stpiknow (H)   2024-04-29 08:08:28
亚马逊、Alphabet、Meta和微软在AI芯片的布局,长期将带给辉达麻烦
原文网址:
https://bit.ly/3UfIw3P
原文:
亚马逊、Alphabet、Meta和微软是AI云端运算领域的四大参与者。他们也恰好是辉达GPU
的最大买家之一。可是这四家云端巨头的另一个共同点是他们都在制造自己的芯片,寻求
互补辉达无法满足其AI客制化的供应。
其实,辉达的GPU非常昂贵,所以四家云端供应商都希望并且需要控制不断飙升的资本支
出预算。Meta、微软、亚马逊和Alphabet 在AI基础设施上投入了大量资金。根据
FactSet估计,2024财年这四家的资本支出总计预计将达到1,780亿美元,比2023年增加
26%以上。唯有透过设计自己的解决方案来实现,涵盖软件、硬件和芯片的大部分成本。
以亚马逊为例,其于2015年透过收购以色列芯片设计公司Annapurna Labs进军芯片业务。
这笔交易最后产生了三种芯片:一种名为Graviton的CPU,亚马逊称其性价比比同类x86晶
片高出40%;用于训练LLM的Trainium;以及用于AI推理工作负载的Inferentia。
亚马逊也投资OpenAI的敌手Anthropic。如今Anthropic用Trainium来训练其AI模式。
Airbnb、字节跳动、Snap和德国电信都是 Inferentia 的客户。 亚马逊使用自己的晶
片来运行 Alexa、亚马逊广告及其新的 Rufus 购物机器人。
Alphabet 旗下的谷歌近十年来一直在开发AI芯片,且创建完整系统的优势,不仅是芯片
,还包括相关的软件、网络基础设施和储存。谷歌将其芯片称为TPU(Tensor Process
Unit)。谷歌正在开发第五代TPU,它有两种类型,一种专注于效能,另一种则针对效率

谷歌使用TPU建立大型语言模型,包括其广泛部署的Gemini软件。它还依赖TPU来驱动
Google Mail和其他服务。 许多依赖Google TPU的新创公司包括制造个人化聊天机器人的
Character AI和提供文字到图像软件的Midjourney。
Meta则是推出了第二代AI芯片,称为MTIA(Meta Training and Inference Accelerator
)。Facebook和Instagram都正在使用MTIA芯片来支援社群媒体排名和广告模式。Meta表
示,MTIA 是一项长期事业,旨在为 Meta 独特的工作负载提供最高效的架构。
至于微软,其于2023年推出了Azure Maia 100 AI Accelerator,这是一款用于模型训练
和推理的芯片。到目前为止,微软仅限于内部工作负载的使用。未来微软将重新构想从晶
片到服务器到系统再到数据中心基础设施的每一层,以最大限度地提高效能和效率。
总之,这四家厂商不太可能将其AI芯片贩售给其他业者,并与辉达竞争。但是其生产的AI
芯片,仍会逐渐削弱辉达在AI芯片的占有率,甚至未来的影响力。
作者: WSY000000000   2024-04-29 14:46:00
目前效能应该差距颇大,效益CP值到的话才有机会。
作者: madeinheaven   2024-04-29 17:50:00
三星也要做了
作者: sachialanlus (yeh)   2024-04-30 02:45:00
应该会做特质化的处理器 像是 TPU LPU 那种 不然 GPU 短时间内应该是没办法追上

Links booklink

Contact Us: admin [ a t ] ucptt.com