Re: [新闻] Nvidia覇主地位危矣?这些挑战者做出便

楼主: zxwxz (zxwxz)   2024-08-28 13:32:11
NV的市场领先地位不是单单只有CUDA这么单纯,你要知道CUDA不是只会算AI,各种高阶的模
拟运算才是最可怕的护城河。
NV在技术上还有两大护城河
NVLink/Infiniband:高效的集群计算
Omniverse:虚拟与现实的融合
目前的LLM都有越来越大的趋势,绝对不是单一个GPU能跑得动的,所以高效的集群计算才是
关键,你单一个GPU做多大算力不再是重点,而是你要有办法高效的串成一整个集群,而且N
V大概是唯一一家有办法自己“验证集群运算缺陷”的公司,因为他自己也有AI团队在搞大
模型,所以NVlink跟Infiniband才会如此重要,要知道UAlink才刚起草联盟,第一版出来可
能要2026了
Omniverse 这可能是大家比较忽略的一块,这块是AI从虚拟走向实体的关键技术,以自驾车
为例,现在tesla就是以海量数据导致FSD能有领先地位,但最终,你不可能只用实际车辆采
集数据,尤其是各种负面范例,撞车或撞到人,这绝对是非常稀缺的资料,但假设你能用Om
niverse来模拟整个车祸发生的各种情况,才有机会解决这种资料稀缺问题。更进一步则是
机器人的虚拟环境训练,你不可能把机器人丢到家庭里,不小小压到小孩才开始调整行为策
略,各种人机协作互动的行为更是关键。
这两大块甚至比单纯的CUDA更垄断,因为GPU集群的实验你自己没下去玩过,根本就不知道
会发生什么事,临时硬件坏了该如何备份复原更换,电力系统要如何整合,这都不是小公司
玩的起的
补上万卡集群的训练说明
https://youtu.be/aey0qZzJg-Q?si=7GoOw5EDFkG9LcVx
Omniverse 更是未来实体AI的关键,新的机器人一定是丢到虚拟环境练到好才出来,这也是
为啥老黄一直还是延续GPU而非特化成NPU,因为它需要3D建模与物理引擎,光追系统做虚拟
环境验证,拔掉这些core可能可以省成本,但就无法用途转移了
※ 引述 《breathair (拆了?简单了)》 之铭言:
: 标题: Re: [新闻] Nvidia覇主地位危矣?这些挑战者做出便
: 时间: Wed Aug 28 12:28:18 2024
:  
: 小弟请教各位大佬
:  
: NV最大的优势,应该是CUDA
: CUDA让各AI专家可以编程NV GPU
: 让GPU跑你想跑的东西,而不侷限在图形运算
:  
: AMD正是落后在这里
: 当大家都用CUDA编程AI芯片
: AMD不能用CUDA等于不能相容
: 于是AI芯片就被NV占据极大优势
:  
: 以上不知对不对
:  
: 如果对
: 小弟的疑问是
: 如果NV护城河是CUDA这种编程语言
: 而AI最大优势又是编程
:  
: 难道以后不会因为随着AI的强大
: 各路AI芯片可以把CUDA编程
: 转译成自家AI芯片可以接受的语言
:  
: 这样护城河还会在吗?
:
作者: Destrall0708 (Destrall_0708)   2024-08-28 14:23:00
不明觉厉
作者: BruceChen227 (BruceChen0227)   2024-08-28 16:25:00
专业 推

Links booklink

Contact Us: admin [ a t ] ucptt.com