Re: [闲聊] 本地跑 LLM

楼主: surimodo (好吃棉花糖)   2024-12-11 12:56:50
※ 引述 《surimodo (摇滚少女!! 活力棉花糖!!)》 之铭言:
:  
: 看了一下
: 70B 的大模型要 24G 显示卡内存等级
: 差不多就是 4090
: 要价都是 6w 以上
:  
: 那感觉还不如每月订阅
: 还能随时取消
:  
: @@
:  
RX7900XTX 对比 6w+
只要 3w 初头
其实意外的蛮适合跑大模型?
看了好像有成功案例能跑
烙铁们觉得

Links booklink

Contact Us: admin [ a t ] ucptt.com