楼主:
museangel (museangel)
2025-05-04 14:58:22https://www.reddit.com/r/LocalLLaMA/comments/1ke3heg/how_is_your_experience_with
_qwen3_so_far/
我看到reddit的上面这篇文,想借这串原文问个问题,
这几天开源的llm qwen3-235b-a22b,
是不是真的也可以靠cpu跟128gb的ram跑起来,而且速度不算慢、效果也还不错了?
一般这种上百b等级的llm,用一般消费级gpu就算5090也装不下。如果用cpu跟ram,成本倒
是可以压低得多,而且还有比较大的沿用性,不会像gpu每两年换代折旧不少。
我平常只用gpu跑,没试过cpu+ram,有没有前辈有相关经验,文章里说到的这种cpu+ram的
跑法有没有什么地雷?
※ 引述《steven007 (小乃)》之铭言
: 已买/未买/已付订金(元):
: 预算/用途:10K以内AI机
: CPU (中央处理器):AMD R7 9700X
: MB (主机板):技嘉 B650M DS3H
: RAM (内存):XPG Lancer D5 6000 16x2 RGB 黑
: VGA (显示卡):技嘉RTX5080 WF SFF O16G
: Cooler (散热器):Cyber CS6 TUBER ARGB 塔散 黑
: SSD (固态硬盘):XPG S70 2TB Gen4X4 PCIe SSD
: HDD (硬盘):
: PSU (电源供应器):曜越TOUGHPOWER GF3 1000W 金牌
: CHASSIS (机壳):ASUS Prime AP201 MicroATX白
: MONITOR (萤幕):沿用
: Mouse/KB (鼠键):
: OS (作业系统):W11 DIY专业版
: 其它 (自填):
: 总价 (未税/含税):87000