[闲聊] 现在桌机本地ai好强喔 h0103661 PTT批踢踢实业坊

[闲聊] 现在桌机本地ai好强喔

楼主: h0103661 (路人喵) 2026-03-13 08:36:38

玩了上周出的qwen3.5 9b
跑Q4量化用50卡的blackwell可以跑100+tps
跑分超过GPT-120b
还内建多模态
可以陪你看本子
而且从零安装不用一分钟
想想一年前个人电脑只有不会组json的Gemma跟中文0分的llama
==

作者: pchooooome (匹西吼~~~~~~~~~~~~~~~~~) 2026-03-13 08:39:00

肥肥装27b 跟32b a3b,觉得嗄嗄顶35b a3b

作者: Wardyal (Wardyal) 2026-03-13 08:41:00

请你给我SOP 我要玩玩看

楼主: h0103661 (路人喵) 2026-03-13 08:45:00

下载LM Studio，在模型搜寻下载 HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive 这是无审查版本的，50卡选Q4_K_M量化版本可以跑很快，剩下都会自动处理好，很方便。上下文多大就看你要用多少显存，2k~10k差不多，temperature建议低点比如0.6。如果觉得9b太肥还有4b的，至于2b太白痴不推荐。

作者: Wardyal (Wardyal) 2026-03-13 09:10:00

好

继续阅读

[鸣潮] 3.2主视觉图MHWilds 雪碧社新作有上田丽奈耶ILoveMegumin [瓦特] 3/12同接斗虫UsadaPegora [闲聊] 大家会想试试看世界纪录吗Vedan [闲聊] 早安高雄Hyperledger [闲聊] P社是对的WayThuz [闲聊] 高捷少女Furina Re: 股票pchooooome [终末地] 汤汤攻略pan46 [闲聊] 不想上班kingbalance