楼主:
huabandd (我是阿肥巴你头)
2023-07-03 12:22:44https://youtu.be/UsfmqTb2NVY
YTer林亦常常讲解一些苹果生态的玩意
看他讲M2 Ultra才知道到底芯片有多强大
感觉可以开始期待未来几年的Macbook Air大幅提升了
作者:
maplefff (maplefff)
2023-07-03 12:38:00拜托一下现在LLM都是几万张H100在搞的没有人会搞什么单机跑AI这种项目了边缘系统真的搞得起来得只有推理
你确定要PO这厮的片？在B站被骂翻 内容概念错误百出
作者:
LuckSK (幸运的SK)
2023-07-03 13:29:00越会画虎烂的越多受众
作者:
yytseng (yytseng)
2023-07-03 14:19:00低成本内存方案吧，毕竟这趋势下去M3 ultra M4 ultra才是未来值得期待的。NV一张卡抵一台了至于有没有用我觉得对大模型不够但对一般小公司很好用了正常人不会把自己的know how放到云端给别人的机器学习的
作者:
TuCH (谬客)
2023-07-03 15:08:00LLM能在本地端自己做推理也是很有价值很多隐私的资料或著没有外网的环境
作者:
iKelly (((○)))
2023-07-03 15:58:00M系列的芯片问题在于内存最大上限只到192GB，超过的话苹果没有提供任何解决方案，就连最新推出的Mac pro都无解
作者:
woodman (武德曼)
2023-07-03 16:31:00未看先猜是不是拿影像编辑来吹嘘？怎么不探讨M系列最弱“稳定性”及“周边设备相容性”？
一楼是在搞笑吗?H100一张3.6万镁,哪来几万张?OpenAI人家估算成本也不过用了3600张A100
作者:
cevs (cevs)
2023-07-03 20:13:00苹果近几年应该会推自己的显示芯片 3d方面实在不行
作者:
iKelly (((○)))
2023-07-03 20:40:00目前M2 Ultra堆到顶就192GB，除非苹果还有技术可以串连多颗M2 Ultra，或者开放支援一般的DDR内存，不然顶点就在那边卡著
作者:
xoy (XerXes)
2023-07-03 21:02:00这影片就一直在夸一张192GB RAM的显卡，不能说这没有用处，但是一台只有192GB RAM的工作站问题更大
苹果先解决ssd跟ram的价格吧，都快10年过去了ram跟ssd价格还在卖天价...配再快cpu也是白搭
他明明就在讲个人电脑，有需要扯到工作站吗？就是个能在自己的电脑加载超大模型，他讲的优点没啥毛病啊。显卡需要几张才能够加载这么大的模型？
作者:
xoy (XerXes)
2023-07-03 22:16:00高阶个人电脑RAM早就不只是192GB，更不用说工作站以TB为单位很久了，苹果的x86 Mac Pro几年前就可以装1.5TB RAM，现在Mac Pro或Studio就整个被M2 Ultra卡住，这影片就完全避开CPU的需求，只拿纯GPU的用途，不能说没用，只是用途有限
还有是市占太低了，第三方支援真的跟windows还有一段差距
作者:
xoy (XerXes)
2023-07-03 22:44:00另一点是ARM Mac完全没有GPU的扩充能力，就算是最新的Mac Pro也一样。但是现在显卡很明显绘图游戏是一个用途，AI是一个用途，高阶用户起码有得选
大家太严格了吧 这台才多少钱 部分应用侵蚀h100也是合理的吧 真心
作者:
iKelly (((○)))
2023-07-03 23:13:00搭载M2 Ultra的Mac studio我觉得没什么问题，但这次用上同芯片的Mac pro号称有扩充能力，却连内存和GPU都没有更优雅的解决方案，摆明就是急就章推出的产品，身为资深果粉的我也看不下去
作者:
CGary (下雨天也挺浪漫的)
2023-07-03 23:59:00他刚好拿了个gpt这种 做推理已经不需要太高计算力又很需要大显存的 别说啥, 叫他跑个controlnet 就知道了...m2比拿大显存老显卡(P40这类的)拼装简单点 但是如果要长期投入在深度学习的 暂时NV的对手连他的前一圈车尾灯都没看到
作者:
xoy (XerXes)
2023-07-04 06:29:00M2 Ultra把RAM加满的价格不管是Studio或Pro也不是一般人会花的钱，影片夸它的C/P值是建立在好几个前提下，只靠GPU、GPU一定要一百多GB RAM但是需求又不能超过两百、运算不允许分散给多张GPU等等，一定要先去设想一个单张或多张一般显卡做不到的事，然后就C/P值好高
作者:
TuCH (谬客)
2023-07-04 08:09:00玩AI大模型的cp值很高没有错啊 不然要买一台几百万的DGX?
作者:
exojin (exojin)
2023-07-04 08:20:00Intel时期的苹果才是强大，本身强兼容性也强，现在的M系列稳定性跟兼容性差到不行，苹果可以吹嘘M处理器的强大，但使用者不这么认为喔。
作者:
ho83leo (LWHo)
2023-07-04 08:23:00身为码农，自从WWDC 推出GPTK 我就更喜欢苹果了…
作者:
xoy (XerXes)
2023-07-04 09:00:00DGX的规格哪里是Mac Pro跟Studio可以比的，反过来说现在的Mac也组不出高阶的AI运算平台
作者:
xoy (XerXes)
2023-07-04 09:15:00对啊，这些一线公司为什么这么笨不买M2 Ultra就好？要做本地AI又不是只有ARM Mac跟贵到天边的DGX可以选，一直扯DGX有什么意义？一般人学习AI也是一开始就排队买DGX吗？PC+显卡都不存在了？
作者:
yytseng (yytseng)
2023-07-04 09:17:0027万你组的到192GB VRAM?
作者:
xoy (XerXes)
2023-07-04 09:25:00前面我就说这C/P值是限定条件，如果我不需要一百以上或需要超过两百的VRAM这就没什么吸引力，更何况这都还没比苹果跟NVIDIA的GPU算AI的实力，纯粹只是当一张VRAM在一到两百GB之间的特殊显卡，还不让人把多显卡这现在PC简单到不行的扩充拿来比
作者:
yytseng (yytseng)
2023-07-04 09:31:00八片以上4090连起来就不是特殊情境？难道你家还在挖矿？192GB以下苹果的cp值就无敌啊。至于速度yt有一堆评测了，比3090快，4090还没实际比较，把cuda改成mps就能跑，似乎软件也没什么问题。就算你只要24GB以下的内存，算一下价格还是苹果胜好吗，一片4090六万还要特殊电源跟冷却
作者:
xoy (XerXes)
2023-07-04 10:12:00NV不是只有游戏显卡，真要堆大容量VRAM用绘图卡数量可以变少但是的确很贵。M1 Ultra早就有128GB RAM可给GPU用了但是也没看到影音绘图AI等产业高阶应用抛弃NV跑来苹果，就算跟游戏显卡比游戏比绘图苹果目前也没赢面。这影片的比较基础是把VRAM容量占比极大化跟AI显卡比价格，前面也有网友提到了比的也不是很耗GPU运算能力的，也无视NV在AI领域的软件支援度，找个有移植ARM Mac的就好
作者: deep236 (潜云) 2023-07-04 10:49:00
Mac Pro没办法额外扩充内存真的很无言
作者:
yytseng (yytseng)
2023-07-04 12:33:00M1才是一代Apple ARM 而已，你要开源软件转多快过来啊?一年前ChatGPT有几个人知道啊，这种就刚好要130GB内存
作者:
yytseng (yytseng)
2023-07-04 12:35:00对啊，open source 社群有在动了就是有用，我也装来玩玩如果遇到内存瓶颈，我应该会买Mac Studio而不是搞4090之前问过报价组4090单显卡就要15万左右，又吵又热NV A6000凑到192GB 某家组好报价107万，这我玩票的买不起一直拿工作站来比，不知道是在讲啥，开AI服务公司的吗...
作者:
iincho (世界的尽头)
2023-07-04 13:39:00这个就是土砲的野路子就刚好苹果统一内存做这个合适算是穷人方案吧，当然和正规不能比但是喷的人好歹先看看价钱啊
作者:
xoy (XerXes)
2023-07-04 15:21:00就AI不只是GPT，而GPT看规模学生用一般显卡就可以学了，也听说有model大到没有单张显卡塞得下，也有人做CPU+GPU+SSD而不是只用GPU。玩票的自然不会花上百万买来只是玩玩，一般人也不容易掏出十几二十万只为了跑GPT
作者:
CGary (下雨天也挺浪漫的)
2023-07-04 17:42:00其实我还蛮喜欢m系列的架构的 未来越来越成熟 他一体化gpu的优点的确是存在的 但是此时此刻 他还不成熟 但他对于大模型也真的有一定的用途 只是你是看到他一开始说吊打NV而心动跳进去 那一定会后悔就是了 他至少在这代 还离真的成熟很远
作者:
woodman (武德曼)
2023-07-04 21:24:00这个价位标配1TSSD没关系，苹果本来就这种尿性，但都买到Mac pro我居然没办法自行升级SSD？又是该死的slicon把SSD跟CPU黏在ㄧ起。
作者:
tyf99 (呵呵)
2023-07-04 21:52:00Mac Pro 2023 应该能插 PCIe SSD，不然它大可直说不能用，就像显卡那样
作者:
concord (iPro)
2023-07-04 22:06:00可以装 SSD ，不过要注意插槽共用频宽的问题
作者:
exojin (exojin)
2023-07-04 22:36:002019 Mac pro有标配两个M.2槽可以插SSD。2023年的Mac pro走pci插槽有可能也认不到SSD,毕竟显卡、内存、SSD都跟CPU绑在一起了。
作者:
NoneWolf (Forty2)
2023-07-05 10:55:00这影片到处都有人在宣传 感觉有鬼
作者: VictorZ (月下的猫) 2023-07-05 12:37:00
中国干片还是少看
作者:
JaveXP (BEEF)
2023-07-05 15:34:00因为中国人买不了H100，当然只能吹M2
作者:
concord (iPro)
2023-07-05 16:45:002023 Mac Pro 可以装 PCIe SSD ， Highpoint 的产品已经声明可以用了，目前只是不清楚相容性是否会有特殊问题
作者:
Pelassy (青色樱桃挂枝头)
2023-07-08 17:00:00其实对于模型训练来说，VRAM远比算力重要，没有batch size没有收敛。
作者: jhjhs33504 ( ) 2023-07-12 14:05:00
推文连结好重要~苹果的品质应该是确保满载也不降速吧?