[菜单] 45K LLM模型微调服务器升级

楼主: jeff85898 ( )   2023-12-18 15:06:42
已买/未买/已付订金(元):未买
预算/用途:原有的单张3090 24GB显卡微调较大的语言模型已经不太够用,需要再加一张30
90。家用平台PCIE频宽似乎最多只支援到两组PCIE 4.0 x8,希望直接升级到EPYC平台较不
会有频宽瓶颈的问题,不过电源、机壳不太知道如何选择,再麻烦大家推荐一下了,谢谢!
CPU (中央处理器):AMD EPYC 7302 $4387 (淘宝拆机)
MB (主机板):技嘉 MZ32-AR0 E-ATX $6983 (淘宝拆机)
RAM (内存):美光16G 2RX8 PC4-3200AA ECC REG *8 $6258 (淘宝拆机,QVL支援)
VGA (显示卡):EVGA 3090 FTW3 沿用EVGA 3090 FTW3 $20000 (二手)
Cooler (散热器):待填
SSD (固态硬盘):沿用
HDD (硬盘):无
PSU (电源供应器):待填
CHASSIS (机壳):待填
MONITOR (萤幕):沿用
Mouse/KB (鼠键):沿用
OS (作业系统):Ubuntu
其它 (自填):无
总价 (未税/含税):37628+待填

Links booklink

Contact Us: admin [ a t ] ucptt.com