Re: R: [请益] 为什么中国越来越强?

楼主: afflic (afflic)   2025-02-01 06:16:32
给一些觉得中国很烂的人看看市场现在在担心些什么
舰长J快讯 重要的突破要多写一次
2025/1/31
总之,这几天是一次很烧脑的过年假期,感觉比平常还要认真研读资料,甚至大年初一晚
上还有大陆券商办专家论坛..... 这个市场实在太卷。
当然,花了这些精神做功课,就是要研究一下开年后的投资动作,究竟是新春大特卖赶快
捡便宜、还是苗头不太对脚底要抹油?很遗憾的,这几天研究下来,个人目前对硬件的看
法越来越偏向后者,但相关的AI应用却可能加速发展。
DS的论文重点以及它在算法上的突破,网络上已经有很多人分享,我就不再赘述;直接
讲几个观察到的重点吧~
1. 还记得Apple为了推销Apple Intelligence,将iPhone 全面升级到8GB以上吗?这仅仅
是为了跑一个3B 参数的小模型而已。 现在,有人成功用一张 Nvidia RTX 6000 (48GB V
RAM) 就可以跑动 DS 671bn 参数的大模型,而且这个模型还开源可以直接下载。
这代表什么意思?以后企业或个人要布建AI,可能买一台具有高阶显卡的电脑就做的到。
不用每个月花200USD订阅OpenAI、不用CSP租赁昂贵的AI server & 网络..... 在地端布
署AI 变得简单&便宜许多。这两天已经有看到朋友的公司开始研究把AI模型的布建转为
在地端执行的可能性。
2 各大厂纷纷投入:短短几天,可以看到微软、AWS、NVIDIA 都开始提供DS R1 模型的服
务。由于对硬件的要求的确不高,百万token 输出的价格只要2.19美元(作为对比: Ope
nAI的输出价格为60美元/百万Token),价差接近30倍。
NVIDIA 官方也有描述:在单个NVIDIA HGX H200系统上,完整版DeepSeek-R1 671B的处理
速度可达3,872 Token/秒。仅需一个系统就可以完整运作DS R1 大模型。就算企业依然需
要利用云端来布建AI,需要的系统&价格也比之前简化许多。
3 NV关键优势不再? 这两年来,我们持续提到NV产品在大模型与高运算力方面的优势,
包括内存的使用、NVlink多卡串联、Scale-up/out 的领先等等;在探讨下一代Rubin或
更后面的产品,讨论的是一个机柜做到NVL 144/288 、如何处理这么大功耗的产品、系统
架构该如何演进等等;重点不仅仅是“教主产品做的比别人好”,而是“不用教主的产品
就根本无法训练&使用这些大的模型”。
忽然间,这个必要性被打了一个大问号。
进而延伸的问题:HBM、CoWoS等等原本为了在空间体积功耗等等限制下塞进最多算力的技
术,是不是仍然必要?还是有许多便宜的替代品可以用?
BTW,很多人喜欢把政治问题扯进来。对我来说,探讨DS本身到底用了多少卡有意义吗?
没有,重点是现在实际布署R1的硬件需求就是极低;其次,它有没有抄OpenAI? 应该有吧
~ 不过OpenAI 的 GPTBoT 在网络上不顾版权的到处乱抓资料也不是一两天的事情了~
抓完还不开源勒。对投资而言,整个市场结构的变化,比这些枝微末节的小事重要多了。
投资总有风险,本人过去绩效不做未来获利之保证。最近诈骗猖獗,本人不收会员、不用
追踪、不骗流量、不需粉丝、更不必按赞分享开启小铃铛。快讯仅供好友交流之用,如果
你与我看法不同,你肯定是对的千万不要被我影响。
作者: kissa0924307 (瓦斯来一桶)   2025-02-01 08:42:00
关税战也是每个人都说跌啊 导致通膨啊 结果川普上一任期通膨没超过3% 整天听左媒找专家唱衰 投资准备赔钱
作者: tongmove0503 (tongmove)   2025-02-01 08:46:00
分析DS对硬件需求的影响需要买鹿港股?奇怪的连结对了,我这几天有加码NV
作者: chihweicheng (cwcheng)   2025-02-01 10:01:00
说不定印度今年也有个超级模型
作者: bustinjieber (贾小斯汀)   2025-02-01 10:15:00
自己看不懂文章的重点没关系,用DS帮你总结一下可以吧?
作者: adamyang2000 (adamyang2000)   2025-02-01 11:52:00
教育丶制度
作者: PureAnSimple (PureAndSimple)   2025-02-01 14:49:00
最近幻想垃圾文真多

Links booklink

Contact Us: admin [ a t ] ucptt.com