Re: [问卦] DeepSeek问世会让显卡降价吗

楼主: a1e (我上了贼船了囧)   2025-01-27 22:37:32
※ 引述《BMWi3 (在那叫什么)》之铭言:
: DeepSeek问世不需要那么多高阶芯片了
: 那么显卡会降价吗
: 现在GeForce RTX 4070 虾皮还卖19200
: dram都因内卷杀到见骨了
: 显卡会步上后尘吗
显卡一定会涨价
目前己经有很多deepseek布署在本机电脑的教学
ollama上也有deepseek R1模型可以下载
deepseek R1模型各参数量对显卡内存需求
https://i.imgur.com/blJhjZb.png
14b以下都是现在一般显卡(现在4060ti以上等级显卡都有12gb以上内存)
能独立在本机运作
32b才需要4090等级(24gb内存)
先前有贴过,1.5b的模型可以在手机上运作
https://x.com/itsPaulAi/status/1882138485630566853
1.5b的这个迷你模型只能专注在数学领域上,不能应付其他问题
这影片己经把7b、14b和32b的性能比较拉出来
https://www.youtube.com/watch?v=tlcq9BpFM5w
后面还有用相同硬件资源运作其他llm的比较
deepseek的出现,等于把llm的硬件需求拉低非常多,以前本机端的llm模型不是没有
但性能没那么好,现在deepseek直接用低硬件需求干出过去llm模型达不到的性能
硬件需求降低,AI产品价格也会低,会让使用者也买的起相关产品
想像一下智慧家电,以前都是用手机控制或声控,未来家里布署一个AI运算机
直接根据你的现况,自动做出操作..etc,这种场景去年还认为要至少10年才会出现
现在这几乎己经开始想像的到可能几年后就会有厂商推出这类产品了
这反而会加速边缘运算的需求,而且deepseek也有open source,各家做边缘运算
用计算卡的厂家现在一定开始针对deepseek开发自家相对应的硬件
快一点今年底,慢一点明年,八成一堆硬件厂会打着支援deepseek的口号卖硬件了

Links booklink

Contact Us: admin [ a t ] ucptt.com