[问卦] 看不懂推理库为什么能够加速模型怎么办?

楼主: arnold3 (no)   2024-02-24 21:34:40
我看说电脑要跑模型 可以用推理库去优化 然后跑更快更准 但实际上
我看那个说明范例 偏偏就看不懂为什么会变快 反而还要另外装这些东西
所以说它的原理是什么 为什么训练好的模型 可以用这个来加速 感觉
就像作弊外挂一样?

Links booklink

Contact Us: admin [ a t ] ucptt.com