每次讨论到Nvidia 就会引战，
但是看到一堆不实的指控，
又会让我忍不住想说明，
然后就引战删文，无限循环
先说结论：CUDA
就此打住，再多说就是引战
这几家大型软件公司有自己的芯片与硬件研发团队已经十几年以上，
当然有自己的AI芯片一点都不会意外，
就以新闻说的微软来讨论，
微软AI芯片主要有两个项目: OpenAI, Cloud
OpenAI 用的芯片是微软跟AMD合作，
由AMD主力开发卖给微软
Cloud的部分才是新闻说的首款自制芯片，
这款自制芯片的研发团队由两个主力组成:
xbox硬件团队 + 原snapdragon cpu core团队，
原snapdragon cpu core团队被高通整组裁员之后全部被微软收下，
改作微软Cloud 的芯片,
xbox硬件团队除了xbox之外，
比较有名的是hololen project,
这个团队实力很强，
做出来的AI芯片应该是不错,
不过微软很多时候做硬件只是为了杀价用，
让人怀疑他们自己软件部门是否会愿意使用这款自制的芯片
同样情况Amazon AWS有一堆自制的芯片与硬件，
最有名的是AWS ARM CPU 跟 lab126,
同样的Google Cloud 也有一堆自制芯片与硬件，
甚至安卓/pixel/nest 也有一堆自制芯片，
所以不要以为市场只有Nvidia 能做AI芯片，
这些大型软件公司都有能力做AI芯片，
效能都不输Nvidia，
问题在CUDA (我不多做解释了)
※ 引述《Lushen (pttlushen)》之铭言：
: 上次台裔Google科学家纪怀新Ed H. Chi (L9)来台湾接受访问的时候就有谈到这个:
: 今天记者会上，纪怀新也解密，其实 Google 在训练 AI 时，100% 使用的都是自家的
: TPU，“Google 很早就在 AI 领域投入了大量资源，包括硬件，包括里头的数学、算法等
: ，这些都是我们的强项。”
并不是100% 使用的都是自家的TPU，
最多就只是他的部门的某一两个project 用自家的TPU,
我没有详细数字，
但是我猜大概50%用自家的TPU
原因很简单，
自家的TPU是对自家特殊的算法做加速,
每个TPU的设计都不同，不能共用，
比方说，
现在最热门的LLM需要极大的内存空间，
对运算速度需求反而不是最大瓶颈，
所以会有一款特制TPU把内存拉到最大来符合LLM需要，
但是这款TPU拿去做search, youtube 图像辨识等等却又不适用了，
并不是每个算法与专案项目都有相对应的TPU，
可能难度过大或是需要的资源过多，
也有可能这个专案只需要一些机器就够用，
也有可能这个专案只需要一次性短时间train data,
所以很多算法与专案项目是直接拿Nvidia or AMD GPU
: Google 2023 最新的论文
: TPU v4: An Optically Reconfigurable Supercomputer for Machine Learning with
: Hardware Support for Embeddings
: Abstract
: 1.2x–1.7x faster and uses
: 1.3x–1.9x less power than the Nvidia A100
客制化的TPU or ASIC一定比GPU快，
某些TPU在某些特殊算法上面的应用甚至比H100 快很多，
但是这些TPU or ASIC并不是通用AI 芯片，
无法通用在各式各样的算法与应用
: 大公司自己搞这些东西没问题
: 没资源搞这些有的没的 还是只能跟Nvidia买没冲突
: 至于什么生态
: 大公司完全可以自己在公司搞一套自己专用的工具
: 进来的人自然会想办法学会这套工具怎么用
: https://www.inside.com.tw/article/32510-Google-Bard-Ed
: 微软要搞铲子好啊
: 还是只能找台积电代工
: 代工铲子94舒服
: ※ 引述《jerrychuang ()》之铭言：
: : 原文标题：
: : 减少依赖辉达 传微软将推自研首款AI芯片
: : 原文连结：
: : https://ec.ltn.com.tw/article/breakingnews/4451397
: : 发布时间：
: : 2023/10/07 11:13
: : 记者署名：
: : 原文内容：
: : 〔财经频道／综合报导〕根据《The Information》报导，微软（Microsoft）可能下个月
: : 在其年度开发者大会上，推出首款专为人工智能 （AI）设计的芯片。