原文标题：生成式 AI 大爆发，NVIDIA GPU 恐供不应求
原文连结：https://technews.tw/2023/02/13/nvidia-gpu-demand-to-exceed-supply-as-green-team-bets-on-chatgpt/
发布时间：2023.02.13 11：14
记者署名：陈冠荣
原文内容：
微软 Bing 搜寻引擎整合 ChatGPT，加上其他生成式 AI 工具的需求攀升，这些生成式 AI 相当依赖人工智能处理能力，这正是 NVIDIA GPU 优势所在。当科技公司正在利用 NVIDIA GPU 满足他们不断增长的 AI 需求，市场恐怕面临 GPU 供货短缺的问题，尤其先挤压游戏玩家的需求。
NVIDIA GPU 能够高效运算，支援 AI 模型使用 GPU 进行运算的 CUDA（Compute Unified Device Architecture，统一计算架构），因此广泛应用在深度学习领域。根据 FierceElectronics 网站报导，ChatGPT 初期在 10,000 个 NVIDIA GPU 上进行训练，自从获得大众关注后，系统不堪负荷，无法满足庞大用户需求。为此 OpenAI 推出全新 ChatGPT Plus 订阅服务，不仅能让用户在尖峰时段优先造访 ChatGPT，而且回应时间更短，并能优先使用最新功能。
产业分析师估计，目前 ChatGPT 模型正在大约 25,000 个 NVIDIA GPU 上进行训练，比初期测试使用的 10,000 个 NVIDIA GPU 高出许多。
微软和 Google 双双宣布将类似 ChatGPT 的 LLM（对话式大型语言模型）整合至自家搜寻引擎中。如以 Google 为例，要将这样的 AI 模型整合至搜寻结果中，估计需要 512,820 台 A100 HGX 服务器以及 4,102,568 个 A100 GPU。光就服务器和网络成本而言，资本支出预估高达 1,000 亿美元（约台币 3 兆元）左右。
生成式 AI 大爆发对 NVIDIA 来说是个利多消息，但面对消费市场，尤其对游戏玩家而言恐怕不算好消息。NVIDIA 有可能优先供货给提供生成式 AI 的科技公司，排挤游戏玩家的需求。今年第一季因有农历新年使游戏显卡供应受限，尽管库存问题仍然存在，但可能为已经短缺的高阶 GPU 带来供货问题。
高阶 GPU 提供了 AI 功能，使 NVIDIA 有利可图，可能为了满足不断增长的生成式 AI 而有供货短缺的问题。NVIDIA 如何因应 AI 领域的庞大需求有待观察，该公司预计在 2 月 22 日公布 2023 财年第四季财报，届时有望透露更多未来营运展望。
心得/评论：
预估Google支本支出1000亿镁左右，NVDA要喷了否？
从去年底到现在已经涨了45%左右了，显卡又要被抢光了吗？
http://i.imgur.com/JGHnRSJ.jpg