Re: [问卦] 半导体的庞大需求到底是用在哪

楼主: cc1plus (废柴联盟盟主)   2023-05-27 11:02:17
※ 引述《zakijudelo (Zack)》之铭言:
: 我文组仔不懂啦
: 明明台积电及许多晶圆代工厂到处设厂
: 应该会有生产过甚
: 或是像之前GG高层自己说的
: 疫情期间有overbooking的状况
: 但明明AI也还没多成熟
: 挖矿也退流行了
: 到底生产那么多芯片是用在哪里
: 可以让老黄的nvidia带头飙成这样
AI 建模,流程可以参考这个网址
https://www.researchgate.net/figure/Steps-of-Developing-AI-Models_fig2_348142248
一般会有资料蒐集, 清洗, 算法, 最后的 interference (推论)
第三个步骤到第四个步骤有个 model ,这步骤叫建模,
这个建模的过程会耗费极大量的 GPU 运算能量,还有无数次迭代
像 GPT 还有一个Reinforcement Learning from Human Feedback (RLHF),
会花费大量的人工标记资料可用性
所以做大模型的就会要用大量的 GPU
像 GPT-3 就要花 1024 颗 A100 GPU 跑个 24 天,一颗也就 30 万而已
除硬件外,电费也是非常惊人的,这时先进制程就有好处了
至于大语言模型推论也是很花 GPU 时间的,以上亿用户来说
说不定上面那些还不够用,又要买更多 GPU .
除此之外,云端服务器, 高阶桌上型电脑和笔记型电脑和手机都是需要GG先进制程
像 AMD 的 EPYC ,或是 Zen4 CPU 都是,手机就是 qualcomm 8 gen 2 , Mediatek 9200 等等
像 Intel 终年 14nm+++++ 不是常态,但是从某个角度,Intel 也算是将 14nm 做到
极致了,这代表着 14nm+++++ 还是有优势的
这一波似乎是要卖给中国大陆提前出货,所以塞爆生产线了
要不然这种需求都是缓步增加的,而且台积电产能现在都放出来了,nvidia 应该可以拿到不少
但是后面被完全制裁之后的格局未知,这也是老黄讲的不一定要在台湾生产,但是大陆市场很重要
话说怎么没有人抵制老黄,收 3090/4090 系显卡
Nvidia 股价大涨可能是短多长空格局,想刷一波记得研究新闻随时跑
另外游戏显卡市场崩很大,这反映了 PC 端出货不顺的现况,PC 端出货不顺可能会连带影响
云端服务器的生意

Links booklink

Contact Us: admin [ a t ] ucptt.com