结论就是LLM,
如果还要再加上另一个结论,
那就是算法跟deepseek
Ascend这颗芯片最早第一代要回朔到十年前,
那个年代没有LLM,
芯片的架构只专注在本机AI 训练与推理的效能,
在那个年代,
有提早布局LLM 开始设计LLM功能的芯片架构, 只有NVDA一家,
虽然后来谷歌TPU 有跟上LLM的功能,
但是还是追得很辛苦
回到华为这颗芯片,
本地单机也好, 单芯片也好, 效能不输H20 不意外,
问题在LLM,
我两年前就有一篇文章讨论过这问题,
https://www.ptt.cc/bbs/Stock/M.1680851343.A.8CF.html
当你的模型大到一颗芯片装不下,
甚至本地单机的多芯片也装不下,
甚至整个rack 十几台机器也装不下,
后来, 甚至连整个机房的机器都装不下一个模型,
这就是LLM = Large Languae Model的问题,
这个Large 是比你能想像的还要大
目前有能力处理这么大的模型 只有NVDA,
免强再加个谷歌TPU,
所以我相信Ascend 920在单颗芯片的效能不输H20,
但是无法训练LLM,
这已经不是芯片效能的问题,
而是提升到整个系统软硬件的问题
然后,
为何我要提deepseek,
因为这才是中国真正可能的突破口,
请看我两年前的文章,
https://www.ptt.cc/bbs/Stock/M.1680851343.A.8CF.html
早在五六年前我跟deepmind researcher 合作一颗TPU的时候,
我们就有讨论过LLM的问题,
在那个时间点,
我们那颗TPU 也是有LLM的问题,
当时"他们model 部门也有在想办法要细切 model 看可不可以塞进去这个系统",
也就是早在五六年前deepmind 就已经在想优化算法来解决大模型的问题,
deepseek 不是第一个想到优化算法的人,
deepseek 是第一个敢大声喊出来的人
其实,
我到现在都搞不懂的点就是怎么现在还在大力出奇蹟,
综观电脑科学百年来的历史,
永远都是先搞大力出奇蹟,
之后优化算法,
搞成小计算机小算力的平行处理,
很明显的,
AI 的硬件跟模型开发走在一个错误的道路,
明眼人都看得出来,
读过电脑科学的人都看得出问题,
你这样拼命堆算力, 拼命加大模型, 拼命花钱堆叠芯片,
这不可能是最后的结果,
你一定会遇到各种极限,
不论是物理极限, 或是模型极限,
怎么会在一个错误的道路上面走这么久,
当我看到这四五年NVDA 股价涨了百倍之后,
我懂了, 我悟了,
因为这会挡人财路,
这是一条AI 发财产业炼,
虽然这是个错误的方向,
所以虽然researcher 早就知道问题,
也早就对算法做优化,
但是他们不敢说出来 挡人财路
所以deepseek 喊出问题在算法优化的时候,
整个AI 产业炼大跌20%-30%
anyway,
结论就是算法优化, 芯片串连LLM,
这世界上不是没人发现这问题,
其实是早就已经算法优化做了五六年,
只是不能讲而已
※ 引述《a000000000 (比古A十郎)》之铭言：
: ※ 引述《humbler (兽人H)》之铭言：
: : 原文标题：
: : 华为捡到枪 迅速推出新芯片取代辉达H20令业界意外
: : 原文连结：
: : https://ec.ltn.com.tw/article/breakingnews/5017695
: : 发布时间：
: : 2025/04/20 14:25
: : 记者署名：
: : 吴孟峰
: : 原文内容：
: : 美国总统川普对中国人工智能芯片出口禁令扩及辉达H20禁售。就在华府宣布1天后，华为
: : 旋即发布下一代AI芯片Ascend 920，将取代H20留下的市场空缺。外媒指出，Ascend 920
: : 的发布让一些业内人士感到意外，而这对华为来说是一个巨大的机遇。
: : 根据DigiTimes Asia报导，Ascend 920预计将于2025年下半年实现量产，专家表示它将能
: : 够取代中国人无法再使用的H20芯片。
: : 尽管辉达H20芯片的功能不如其最新的AI产品强大，但它仍然是中国企业的热门选择。这
: : 对华为来说是一个巨大的机遇，多年来华为一直努力匹敌辉达的能力。
: : 华为Ascend 910C似乎能够提供竞争对手辉达H100约60%的推理性能。另一方面，下一代
: : Ascend 920将采用6奈米制程，预计每卡将超过900 TFLOP，并使用HBM3模组拥有4 TB/s
: : 的内存频宽。
: : 华为Ascend 920的发布让一些业内人士感到意外，尤其是因为它是在白宫宣布禁止辉达
: : H20和超微的MI308之后发布。
: : 据报导，这项扩大出口管制的计画应该已经酝酿几个月，因此华为很可能一直在期待新禁
: : 令的到来。因此，华为一直在幕后积极开发Ascend 920，只是在等待时机发布公告。
: : 心得/评论：
: : 到底是真的还假的
: : 华为被美国封杀成这样
: : 怎么自研芯片的能力越来越强
: : 好在现在美国还利用ASML封锁中国半导体发展和制造能力
: 没那摸复杂
: 想太多惹
: 这东西今年下半才会出
: 其实现在ai chip制程输葛一代两代对强国不是啥问题
: 顶多就比较耗电而已
: 像那葛华为cloudmatrix 384 每瓦效能大概老黄gb200nvl72的一半
: 华为这卡的天生限制是hbm3出口去年底才被封
: 所以他闷先屯惹hen多 够玩很久
: 华为后续会怎样还要观察
: 目前
: 目前喔
: 所有老黄竞争者都需要面对模型训练效能&稳定度的问题
: 这东西84尼去叠硬件就有
: 我在业内听到的消息推断
: 最近软软喷苏妈的人说尼的新东西又不能拿来training我不买惹
: 简单讲苏妈搞惹一年多 training还是大便
: 估狗tpu7整颗效能堪比老黄gb200
: 可是人家只专注在推理效能 训练窝不知道
: 然后估狗自己还计画要跟别家租gb200
: 我看他闷大概还要一两代才有办法自家芯片跑训练跟老黄干
: 如果说今天哪家强国公司说用华为的系统
: 训练粗来跟美国干的ai大模型
: 那真的94天塌惹天塌惹
: 不过捏
: 虽然之前deepseek没啥名
: 但是实际上幻方的算力在强国可能可以排第五第六
: 前四名就啥百度腾讯阿里巴巴抖音
: 第五可能曾经是已经实体清单的商汤
: 前面那四家会不会乖乖帮华为弄 这hen难说
: 至于推理效能的话
: 老实说要干死h20根本不用啥屁招
: 问94尼盖data center但是只能跑推理
: 算算其实是在浪费钱 除非尼单颗效能强暴惹
: 尼要判断ai股能不能买
: 扣掉总经问题
: 最简单的还是去听一下相关产业从业人员
: 像我朋友这行的不少 或者说越来越多
: 几乎整天都在靠北hen忙药丸
: 老黄产品(b系列):
: bug很多客户很赶客户很多
: 苏妈产品:
: bug很多客户很赶客户很少内斗很多
: 哀
: 苏妈
: 可怜