Google TurboQuant 内存压缩突 pchooooome PTT批踢踢实业坊

楼主: pchooooome (匹西吼~~~~~~~~~~~~~~~~~) 2026-03-26 08:47:55

Google TurboQuant 内存压缩突
Google 推出新 AI 内存压缩算法 TurboQuant,可将 AI 的“工作记忆体”压缩高达6
倍。
哇靠真假，这样本地跑超大模型，的日子是不是要来了
挖苦挖苦

作者: lovez04wj06 (车前草) 2026-03-26 08:49:00

期待

作者: windowsill (蓝冬海) 2026-03-26 08:50:00

乐见其成

作者: mayolane (mayolaneisyagami) 2026-03-26 08:50:00

MU跟SNDK跌超多

楼主: pchooooome (匹西吼~~~~~~~~~~~~~~~~~) 2026-03-26 08:51:00

拜托早点那个

作者: F16V (Manners maketh man.) 2026-03-26 08:52:00

钱包也压缩了

楼主: pchooooome (匹西吼~~~~~~~~~~~~~~~~~) 2026-03-26 08:53:00

亲情厚了

作者: Excrement35 (好好吃捏) 2026-03-26 08:53:00

mu药丸：（

作者: sustainer123 (caster) 2026-03-26 08:55:00

这一年前的论文对啊

楼主: pchooooome (匹西吼~~~~~~~~~~~~~~~~~) 2026-03-26 08:56:00

真假那不用内存焦虑了

作者: dog41125 (TL) 2026-03-26 08:56:00

Gimini没开源可以本地吗

楼主: pchooooome (匹西吼~~~~~~~~~~~~~~~~~) 2026-03-26 08:58:00

看咕咕噜说验了3个模型可以套用所有模型

作者: h0103661 (路人喵) 2026-03-26 08:59:00

这个是量化3bit，量化技术早就很普及了，要1bit都可以，直接16倍压缩，他只是声称他的量化几乎无损

作者: surimodo (好吃棉花糖) 2026-03-26 09:03:00

难吧量化通过基准测试很简单但实际用起来就是一坨

楼主: pchooooome (匹西吼~~~~~~~~~~~~~~~~~) 2026-03-26 09:04:00

真假他的量化还是会白痴喔咕咕噜骗我

继续阅读