[请益] AI推理快取 SSD or RAM

楼主: AOrigin (AOrigin)   2025-02-18 02:21:51
目前在尝试在本机跑Q2量化的R1(671B)
目前的环境
4090 * 1 24G
DDR5-6800 96G
虽然能够执行
但是需要大量的分页档案
很担心这样会不会导致系统碟提早升天
现在在犹豫怎么做
1.再加装 48G * 2
目前安装的是 T-Create 的 48G * 2
还有两槽可以插 不过好像买不到了
而且顶天就是192G 不知道够不够用
2.买一颗SSD当快取用
反正就是拿来当分页操的
买一颗PCIE5的便宜SSD
耐用度就不管了
就是CP值问题 还有就是TLC/QLC有没有差
我是小孩 必须做选择QQ
先感谢各位先进了

Links booklink

Contact Us: admin [ a t ] ucptt.com