其实在ai的世界里
apple早已经跟nv绝裂了
apple不愿意支援nv的显卡
nv和apple都各自发展自己的ai
apple走的大圆桌架构
nv走的是体育馆传送门
大圆桌架构就是说所有的内存都共享
拥有超高速频宽
所有的资料都在圆桌上存取的延迟几乎可以乎略了
这个频宽会远胜过nv
但是体育馆传送门则是多台ai主机用机柜串起来
传送门的频宽远低于大圆桌
所以apple的ai主机一台可以是搭配196GB超高速内存
但是nv的gpu小到不行大概只有64gb
高档一点的可以接近apple的ai主机大概也是100多gb
体育馆传送门可以用光纤把很多架机柜全塞在一个体育馆大小的资料中心全用光纤连接
容量高达16TB内存
但是大圆桌没办法做到16TB大小的圆桌
再怎么快内存容量也很难碰到TB级别
最终的结果是Apple不得不跟openai、claude买远端服务
所以老黄被问到apple跟nv的差别他其实答得很好没有去相互批评
老黄不可能不知道他们家的优势在哪里但是也不方便讲得太明触怒客户
https://www.facebook.com/reel/973836615543542
如果1对1的话nv会被apple的大圆桌电死
所以老黄讲的没有错
现在的状况是能用铜就不应该用光纤
能用大圆桌处理就不应该用机柜
但是nv的显卡内存太小了没办法不依靠光纤
他们家的gpu很复杂没有那么多的空间再塞下那么大的内存
逼得他们现在要想办法跟台积电做立体3d的堆叠技术来减少跟大圆桌效能的落差
nv现在只能靠一整群机柜来供应最近的ai模型但仍然会远胜过apple
大圆桌架构下
内存被cpu、gpu及各项芯片共用
而且资料不用去在乎一致性
同步的困扰会小很多
也比体育馆还要省电
现在nv也开始往大圆桌折衷
把内存尽量做大往cpu塞并加速内存频宽
但是理论上gpt跟gemini的模型不会大到tb级别
外界都在猜gpt跟gemini的硬件需求到底是多少
gpt早期会提供他们的规格但是他们现在已经不敢再提供了
openai后面有一大群追兵他们没办法再泄露系统参数
现在学界普遍认为理论上Apple的系统应该是做得出gpt和gemini当前等级的设备
但是实际上线会卡在哪里不太明朗
Apple没有办法被采用以及要怎么解有个真正的原因小妹知道但是也不能说
讲了就穿了
※ 引述《mocamywife (摩卡我婆)》之铭言：
: 如题
: 老黄现在直播演讲中
: 刚刚大吹特吹一波RTX spark笔电跟芯片
: 融合一堆AI agent功能
: 还把产品都秀出来
: https://files.catbox.moe/23jjg5.png
: 但目前只有windows 系统才有而已
: 这样要我们果粉情何以堪啊
: 以后别人在自动剪影片的时候还可以吹Mac颜色比较准吗？
: 讨论一下吧
: