先说结论,
绝对会影响NVDA 在中小企业的市场
我今年最成功的投资不是买股票,
我今年最成功的投资是在GB10 涨价之前买了一台GB10,
今年投资股票没赚,
结果GB10 已经涨了50%,
这是我在电虾版的开箱文跟开箱示意图:
https://www.ptt.cc/bbs/PC_Shopping/M.1780771439.A.18C.html
我同时有旧版的最便宜Mac Mini, 跟这台GB10,
mac mini 主要是做AI agent, call API,
API 又分成两种,
一种是GB10 本地LLM 提供的API, 算是免费token,
另一种是GB10 处理不来的AI任务,
就只能呼叫贵松松的Gemini Kling API
这是我的看法,
GB10 不稳, 所有NV GPU搭配 Ubuntu都不稳,
每隔一两星期会当机,
需要手动重开机,
还有 Ubuntu 的系统自动更新也会杀死 各种本地LLM工具,
每次 ubuntu 系统更新就要开始重新编译安装被杀死的LLM 工具,
这个距离企业本地端使用LLM,
稳定度可能还有差距,
当然如果请专业IT 来每天重开机每天盯着机器,
稳定度或许会好很多
至于mac mini, macos,
稳定度绝对是企业等级的,
我已经半年没有重开机, 也没有当机问题,
原因在于苹果对mac 的系统更新非常小心,
而且是要使用者自己选择更新,
所以只要你坚持不更新,
基本上就不太会遇到不稳定或是更新死机的问题,
对照组就是Windows 强制系统更新,
所以你说Windows 要来跑企业本地LLM,
我就跟你分享这个经典笑话,
https://www.youtube.com/watch?v=xDLvUqhwHZc
再来说说效能,
无庸置疑,
所有的NV GPU >> Mac Studio Ultra >= GB10 >= Mac Mini
其实我没用过 Mac Studio Ultra,
所以我不确定 Mac Studio Ultra 会赢 GB10,
但是我敢保证,
CPU + 小NPU/GPU 的组合绝对打不过 NV GPU 的大炮,
尤其你都买得起57万的 RTX PRO 6000,
一定会跟着安装最顶级的AMD 最强CPU,
所以所有的NV GPU 都一定大胜 Mac Studio/Mini,
我自己用GB10,
感觉慢到让我怀疑人生,
GB10 只有一个优点: 他会动, 他能动
这很重要, 下面接着说
然后我看所有人的分析重点都放在效能快慢上面,
我不知道是故意忽略,
还是真的不知道vram大小的重要性,
vram 大小只影响一件事: 能不能动
就算你买了全世界最快的车子,
你没加汽油就是不会动,
法拉利没油也跑输一只乌龟
不论是Mac Studio, 或是GB10,
都只有一个优点: 他能动,
你跑真正够强的本地模型,
真正能够在企业本地端实用的模型,
都要几百GB vram,
你就算买RTX PRO 6000, 也是跑不动呀!
这也就是我认为NVDA 会在中小企业的本地LLM受到影响,
因为你最强的RTX PRO 6000 只有96GB,
跑不了真正够强大的本地模型
※ 引述《seemoon2000 (no cash)》之铭言：
: 标的：(AAPL)
: 分类：多 (请选择并删除无关分类)
: 分析/正文：
: 苹果今天公布了M5 Ultra和M6
: M5 Ultra试点了一下
: M5 Ultra+256gb ram+8TB硬盘 50.8万台币
: 乍看之下这价格好像不便宜
: 有在玩本地LLM的都会知道
: 现在瓶颈是内存频宽，显卡算力在本地端很多是过剩的
: 我比较一下现在主流的产品
: 内存频宽:
: Apple M5 Ultra(完整的一台Mac电脑)
: 售价50万 统一内存256GB:1200GB/s
: RTX 5090
: 市价17万 Vram32GB:1792GB/s
: RTX PRO 6000:(纯显卡)
: 市价57万 Vram96GB:1792GB/s
: RTX5080:纯显卡)
: 市价5.2万 Vram16GB:960GB/s
: RTX5070ti:纯显卡)
: 市价4.9万 Vram16GB:896GB/s
: NVIDIA DGX:(完整的一台Linux电脑)
: 市价15~20万 统一内存128GB:273GB/s
: AMD Ryzen AI Max+ 395:(完整的一台Win/Linux电脑)
: 市价9万 统一内存128GB:256GB/s
: 这阵子显卡和DGX涨价，除了内存价格上涨，我个人观点
: 主要也有一部分小型企业有开始买多卡布署较低成本的方案
: 但这波上面所有价位段的竞品，"没有一个"能跟M5 Ultra比较，唯一稍微能比的只有RTX
: PRO 6000，内存频宽更高，但96GBVram也输M5 Ultra的256/512GB，而且M5是整台电脑
: ，卖得还比纯显卡PRO 6000便宜
: 至于这阵子买到溢价DGX，基本上现在可以安慰自己说
: 生图生影片用Cuda跑很快，很开心
: M5 Ultra这个方案，应该会有不少中型企业开始采用
: 因为可以直接安装Deepseek v4 flash或Qwen 3.8 27b，复杂高级任务在调再API模型
: 这些T2等级的本地模型，对要自己部属的企业，实用性远比Kimi K3高多了
: M5 Ultra加上Deepseek v4 flash和Qwen 3.8 27b就是现在完全破坏中型2B市场的组合。
: NV老黄现在不可能贸然放生DGX和RTX Pro用户
: 等于在中型企业端的市场会变成无法竞争
: NV应该会开始努力把产品卖给模型公司。
: 进退场机制：
: 进场时机 最低305左右 退场时机 NV想出解方后

我gb10半年来没当过