楼主:
LimYoHwan (gosu mage)
2025-02-02 22:38:25个人是不太了解, 因为也不是AI专家
现在看到中国在魔改二手显卡跑一些千亿级参数大模型推理和优化
他们拿这些二手显卡跑 运行DeepSeek-Vision R1 72B、Llama 3.2 Vision 90B、Qwen2.5 72B和Qwen1.5 130B
就问了chatgpt这些大模型，通常需要高端什么GPU。
回答就这张图
https://i.imgur.com/cTD1LBh.png
但是中国现在魔改二手显卡, 竟然也能跑
以下这台经过chatgpu比较,相当于H200 141GB × 1, 售价23000人民币
88g显存大模型推理机器，深度学习主机，四卡水冷2080ti22g一体机，GPU服务器，88g
vRAM服务器，ai绘图服务器
deepseek-r1 32b能到20token/s
待机46分贝，4张卡温度31℃，超级静音，非常适合家用。
整机所有配件保修一年，让您省时省力省心
，把主要精力与时间放在模型开发与应用上，不必操心硬件的稳定性。
带触摸屏幕
配置单如下：
CPU：epyc7402
显卡：2080ti魔改22g＋一体水×4
主板：epycd8
内存：ddr4 3200 recc 64g
硬盘：铠侠rc20 2t
电源：长城2000w金牌电源
机箱：瓦尔基里vk02，带10.1寸触摸屏幕
https://i.imgur.com/iTtlDiZ.jpeg
https://i.imgur.com/toc6Oh7.jpeg
https://i.imgur.com/H9w8Adj.jpeg
这样大量搞起来, 会是对nvda毁灭性的打击吗？