生成式 AI 大爆发,NVIDIA GPU 恐供不应求
来源 https://reurl.cc/EG778n
微软 Bing 搜寻引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升
都相当依赖人工智能处理能力,正是 NVIDIA GPU 优势所在
当科技公司利用 NVIDIA GPU 满足增长的 AI 需求
市场恐怕又要面临 GPU 供货短缺问题,尤其又会先挤压游戏玩家需求。
NVIDIA GPU 能高效运算,支援 AI 模型用 GPU 运算的 CUDA
(Compute Unified Device Architecture,统一计算架构)
因此广泛应用于深度学习领域。FierceElectronics 网站报导
ChatGPT 初期在 1 万个 NVIDIA GPU 训练,自从获得大众关注后,系统不堪负荷
无法满足庞大用户需求。故 OpenAI 推出全新 ChatGPT Plus 订阅服务
不仅能让付费用户尖峰时段优先造访 ChatGPT,且回应时间更短,并能先使用最新功能。
产业分析师估计,目前 ChatGPT 模型在约 25,000 个 NVIDIA GPU 训练
比初期测试 1 万个 NVIDIA GPU 高许多。
微软和 Google 双双宣布将类似 ChatGPT 的 LLM(对话式大型语言模型)
整合至自家搜寻引擎。如 Google 要将 AI 模型整合至搜寻结果
估计需要 512,820 台 A100 HGX 服务器及 4,102,568 个 A100 GPU
光服务器和网络成本,资本支出就高达 1,000 亿美元(约台币 3 兆元)左右。
生成式 AI 大爆发对 NVIDIA 来说是利多消息,但对消费市场尤其游戏玩家
恐怕不算好消息。NVIDIA 有可能优先供货给生成式 AI 的科技公司,排挤游戏玩家需求
今年第一季因农历新年使游戏显卡供应受限
尽管库存问题仍在,但可能为已短缺的高阶 GPU 增加供货问题。
高阶 GPU 提供 AI 功能,使 NVIDIA 有利可图,可能为了满足不断增长的生成式 AI
而有供货短缺问题。NVIDIA 如何因应 AI 领域庞大需求有待观察
而 2 月 22 日其将公布 2023 财年第四季财报,届时有望透露更多未来营运展望。
NVIDIA GPU Demand To Exceed Supply As Green Team Bets On ChatGPT,
Thousands of AI Chips Expected To be Incorporated By Tech Giants
相关新闻
NVIDIA AI GPU迎ChatGPT需求浪潮
杨智家/综合报导
2023-02-14
ChatGPT相关热潮带动全球科技大厂人工智能(AI)芯片需求增加
外界估可能导致NVIDIA GPU未来几个月面临供不应求
因ChatGPT与其他语言、影像、影视内容生成式...
https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?id=0000656745
40 显卡供应有限紧缩
https://www.youtube.com/watch?v=0dmzRwvObaE
https://www.eet-china.com/mp/a194751.html
PChome已出现 4090 礼包
4070Ti TUF ROG 限组装