看隔壁电虾
吓死宝宝
AI的吗也太扯
现在连去二手版都很难找到多的SSD
哭了
作者:
tsairay (火の红宝石)
2025-12-30 17:23:00就跑AI服务器会用到啊
作者:
emptie ([ ])
2025-12-30 17:25:00就amd的怪东西但确实应用场景不是很多他的内显算力不高,就只有对显存敏感但没那么需要高性能的ai应用用得上诶 你说的是单条的喔 那
作者:
mayolane (mayolaneisyagami)
2025-12-30 17:28:00数字很大很爽可以答首羌
deepseek都要1.3tb内存才能跑了,你就想想gemini那些要多少
说到显存 AMD那个AI MAX 395+不管是迷你电脑 还是掌机 都出了128GB RAM的模式这个到底预期要分配多少内存给内显得阿
作者:
emptie ([ ])
2025-12-30 17:36:00看amd的ppt是写 96 vram +16 shared + 16 cpu所以极限112的样子一些比较大的语言模型可以塞进去
112是萝莉捏,ds 1.3tb,kimi 2tb,glm 700gb,只能跑跑qwen之类的小模型
作者:
emptie ([ ])
2025-12-30 17:41:00那qs
讲白的就是把大脑的东西塞进去内存了,以往是用硬盘储存,但是太慢了。我记得之前AI其实是SSD先涨的