[菜单] 25万 深度学习机

楼主: Laximi (食欲蔓延)   2024-04-22 23:40:00
已买/未买/已付订金(元):未买
预算/用途:约25万。Deep Learning & LLM专用,兼大量数据预处理,长时间运作
CPU (中央处理器):Intel i9-14900K【24核/32绪】3.2G(↑6.0G) $19999
MB (主机板):华硕 ROG MAXIMUS Z790 DARK HERO $20990
RAM (内存):4 x 金士顿 32GB DDR5-5600/CL36 FURY Beast 黑 $6200
VGA (显示卡):2 x 华硕 ROG-STRIX-RTX4090-O24G-GAMING $65990
Cooler (散热器):DEEPCOOL ASSASSIN IV 阿萨辛4 导管/双塔反叶扇/高16.4 $3290
SSD (固态硬盘):金士顿 KC3000 2TB/Gen4 PCIe 4.0/读:7000/写:7000/TLC $4750
HDD (硬盘):Seagate 16TB【EXOS企业碟】256MB/7200转/五年保 $12800
PSU (电源供应器):海韵 PRIME PX-1600 ATX3.0(1600W) 双8/白金/全模组 $16490
CHASSIS (机壳):联力 O11 Dynamic EVO XL 黑 显卡长46/CPU高16.7 $7200
9 x Fractal Design Aspect RGB 14cm/1700RPM $790
1 x Fractal Design Aspect RGB 12cm/2000RPM $790
总价 (未税/含税):236,309 含税
双显卡共48GB,允许使用更大的LLM,例如Llama-2 70B(要用某些lib拆分模型)。
此机壳允许一张吊挂,一张水平,提高散热效率。
不用A6000纯粹是因为目前预算不足,但未来仍可能会改A6000之类的。
不用水冷,不想承担爆管风险。若过热,就透过软件抑制运算量。
电源1600W应该足够,届时也可能会主动限制GPU耗电量,也顺便抑制温度延长寿命。
有任何建议吗?

Links booklink

Contact Us: admin [ a t ] ucptt.com