2026年堪称 回光返照 文艺复兴 的重大纪元
只因为AI让大家都快买不起新电脑
导致什么奇形怪状的旧3C零件都能被挖出来重新上架还卖得吓吓叫
俗话说 AI主机没撇步 钞票砸下去就有
在这个砸大钱就有高效能的时代
来分享一下买不起新零件的穷人AI机笑能供各位板友参考
本次用前阵子特价的 RX9060XT 16G 搭配旧硬件进行测试
********固定设备********
显示卡: 2张 RX9060XT 16G
LLM: qwen3.6:27b-q4_K_M
Docker: Ollama
KV-Cache量化: q_8
Context Window: 64K
Parallelism: Pipeline Parallelism 流水线并行
********设备1********
CPU: E5-2673 V3
RAM: DDR3-1600L 32GB Dual-CH
MB: HUANANZHI X99 CD3
NAME ID SIZE PROCESSOR CONTEXT UNTIL
qwen3.6:27b-q4_K_M a50eda8ed977 19 GB 100% GPU 65536 Forever
total duration: 1m14.1222733s
load duration: 530.1327ms
prompt eval count: 12 token(s)
prompt eval duration: 368.881ms
prompt eval rate: 32.53 tokens/s
eval count: 965 token(s)
eval duration: 1m13.191813s
eval rate: 13.18 tokens/s
https://i.meee.com.tw/DzRAxhW.png
https://i.meee.com.tw/etWE5Yx.jpg
https://i.meee.com.tw/gkkB4tA.jpg
********比较设备2********
CPU: E5-2690 V4
RAM: DDR4-2400 32GB Quad-CH
MB: 白牌山寨 X99
NAME ID SIZE PROCESSOR CONTEXT UNTIL
qwen3.6:27b-q4_K_M a50eda8ed977 19 GB 100% GPU 65536 Forever
total duration: 1m26.1562391s
load duration: 463.7373ms
prompt eval count: 12 token(s)
prompt eval duration: 349.873ms
prompt eval rate: 34.30 tokens/s
eval count: 1128 token(s)
eval duration: 1m25.335511s
eval rate: 13.22 tokens/s
https://i.meee.com.tw/HUECTE0.png
********比较设备3********
CPU: R9-5900X
RAM: DDR4-3200 64GB Dual-CH
MB: ASRock B550M-ITX/AC + PCI-E通道分割设备
NAME ID SIZE PROCESSOR CONTEXT UNTIL
qwen3.6:27b-q4_K_M a50eda8ed977 19 GB 100% GPU 65536 Forever
total duration: 41.5421257s
load duration: 225.8911ms
prompt eval count: 12 token(s)
prompt eval duration: 323.544ms
prompt eval rate: 37.09 tokens/s
eval count: 565 token(s)
eval duration: 40.97805s
eval rate: 13.79 tokens/s
https://i.meee.com.tw/TWK9EQo.png
********小结********
https://www.reddit.com/r/LocalLLM/comments/1szvz9q/qwen3627b_q3_k_s_on_rx_9060_xt_16gb_decent/
有Reddit上的网友用 [ R9-7950X, 64GB DDR5, RX9060XT 16G, ROCm, llama.cpp ]
跑qwen3.6:27b-q3_K_S, 12288 context, Full GPU offload, KV-Cache q_4, 14.8GB
VRAM Used
<<速度大概是 14 tok/s>>
本次测试用 [ E5-2673V3, 32GB DDR3, RX9060XT 16G X2, Ollama(llama.cpp核心)]
跑qwen3.6:27b-q4_K_M, 65536 context, Full GPU offload, KV-Cache q_8, 19GB
VRAM Used
<<速度大概是 13~14 tok/s>>
<比较点>
1.跑q4_K_M理论上较q3_K_S慢
2.跑64K q8-KV理论上较12K q4-KV慢
3.双卡跑Pipeline Parallelism (流水线并行)只会比单卡慢不会更快
令人欣慰的是实际跑出来速度没有慢很多。
但对于RX9060XT这种内存频宽只有320.0 GB/s的显示卡来说，在Full GPU offload情况
下，换好的CPU或内存效能提升似乎有限?
********个人心得********
虽然13~14 tok/s的"笑能"对5070Ti或是5090的卡来说就是个笑话，
但用手边现有的DDR3内存&旧SSD，整套设备大概花1015出头USD(国内买会更便宜)，且9
成预算的零件是能直接挪用到其他电脑，
就能有一台有32G VRAM的AI主机，算是颇划算的了，虽然速度真的有点慢就是了~
CPU: 15 USD
MB: 65 USD
RAM: 0 (现有)
GPU: 850 USD
SSD: 0 (现有)
POWER: 35 USD
CASE: 50 USD
Total: 1015 USD
分享给手边已有大容量旧内存、不想花大钱又想玩AI的板友~
********预算充足能买整台DDR5新电脑的请不要用这种零件折磨自己********
****本篇内容仅为个人测试心得，若论点或观点有误还请各位多帮忙指正或分享资讯****
顺便分享一下本月刚发布的 LM Studio Bionic 引擎，
用这台设备已能在地端用开源权重模型直接运行自动化AI任务，
它能自己调用工具读取档案，分析后自动产制一份Word报告文件(虽然整个要花12分钟有
点慢就是了)。
https://i.meee.com.tw/yDOXE1x.png
https://i.meee.com.tw/NHKdk8K.png
https://i.meee.com.tw/JyfLBHg.png
感谢您的收看~