[新闻] GPU泡沫要破了?H100租赁价格崩跌至每小

楼主: jacknavarra (阿姆罗)   2024-10-17 10:09:25
原文标题:
GPU泡沫要破了?H100租赁价格崩跌至每小时2美元 专家:投资者宜分散投资
原文连结:
https://news.cnyes.com/news/id/5743500
发布时间:
钜亨网许家华 综合外电 2024-10-16 11:24
记者署名:
钜亨网许家华
原文内容:
根据红杉资本的最新报告,AI 产业的年产值已超过 6000 亿美元,足以支撑数据中心及
加速 GPU 卡等 AI 基础设施的开支。随着基于 A100 GPU 系列的 GPT-3.5 与 ChatGPT
的推出,AI 竞赛自 2022 年 11 月 30 日以来迅速升温,市场对高效能 GPU 的需求激增

然而,基础模型训练的资本支出被广泛认为是 “历史上贬值最快的资产”,而关于 GPU
基础设施支出的评估尚未明确,市场竞争依然激烈。
以 OpenAI 为首的大型模型公司,其训练与推理支出已超过收入。OpenAI 最近在有史以
来最大的风险投资轮中筹集了 66 亿美元,并预计到 2026 年将面临高达 140 亿美元的
亏损。与此同时,辉达的新一代 Blackwell 系列芯片已交付给 OpenAI,并表示未来一年
的产品已售罄,辉达 (NVDA-US) 执行长黄仁勋称这可能是行业历史上最成功的产品之一

在 AI 基础设施层面,数十亿美元的投资究竟是促进行业繁荣还是形成泡沫,成为市场热
议的话题。
OneFlow 市场分析师 Eugene Cheah 深入研究了 H100 SXM GPU 的投资回报率(ROI),
指出由于预留计算资源的转售、开放模型的微调以及基础模型公司的减少,市场上的
H100 算力已经供过于求。H100 的租赁价格从去年的每小时 8 美元降至如今的低于 2 美
元,显示出市场的剧烈波动。
Cheah 建议用户在需要时租用算力,而不是进行高额购买。对于按需租赁的 ROI,当租赁
价格在 2.85 美元 / 小时以上时,投资者的内部收益率(IRR)仍可保持在合理范围内。
然而,若价格降至 1.65 美元 / 小时以下,则作为基础设施提供商的亏损风险将大幅上
升。
在长期租赁方面,许多基础设施提供商曾在高峰期以每小时 4 美元的价格签订合同,如
今却面临市场价格的急剧下跌。随着开放权重模型的兴起,企业逐渐转向微调现有模型而
非从零开始训练,这一转变进一步减少了对 H100 的需求。
当前 H100 的价值链清晰可见,从硬件供应商到数据中心基础设施提供商,再到风险投资
基金和算力转售商,各个环节相互交织,形成了复杂的市场生态。市场的变化引发了对未
来 AI 基础设施投资的深思,Cheah 警告称,当前的 H100 硬件支出可能会导致亏损,投
资者应考虑将资金分散到其他领域或股票市场,以获取更好的回报。
当前 GPU 市场的剧烈波动预示著 AI 基础设施投资的复杂性,投资者需谨慎评估风险与
机会,以应对未来可能出现的市场挑战。随着市场趋势的变化,如何在这个充满不确定性
的环境中做出明智的投资决策,将成为未来的重要课题。
归纳 H100 租赁价格大跌 (降至 2 美元 / 小时) 之主要因素:
1. 供需失衡:
随着 AI 技术的快速发展,对高效能 GPU 的需求在 2022 年和 2023 年达到高峰,尤其
是在大型模型的训练和推理上。然而,随着市场逐渐饱和,供应商开始面临供过于求的情
况,导致价格下滑。
2. 竞争加剧:
市场上有越来越多的公司进入 GPU 租赁市场,尤其是一些小型和中型企业,它们提供更
具竞争力的价格和服务,进一步压低了租赁价格。
开放模型的兴起:
开放权重模型的出现使得企业能够使用现有的模型进行微调,而不必从头开始训练,这降
低了对新硬件的需求,进一步影响了 H100 的租赁需求。
投资回报率下降:
H100 SXM GPU 的投资回报率(ROI)受到市场价格波动的影响,当租赁价格降至某一水平
以下,投资者将无法获得合理的回报,进而选择减少租赁或购买。
3. 技术更新与替代品:
随着辉达推出新一代的 Blackwell 系列芯片,市场对 H100 的需求可能会受到影响,因
为新技术可能提供更好的性能和成本效益。
4. 经济环境影响:
全球经济环境的不确定性,包括通货膨胀和利率上升,导致企业在资本支出上更加谨慎,
从而减少了对高价 GPU 的需求。
这些因素共同推动 H100 租赁价格从去年的每小时 8 美元骤降至如今的 2 美元,显示出
市场的剧烈波动与不稳定性。
心得/评论:
※必需填写满30正体中文字,无意义者板规处分
昨天这篇新闻包含自由财经也引述报导了, 但看板上还没出现这篇新闻
透过租赁市场的供需看待GPU算力是否过剩蛮有意思的
其中分析的第三点, 因为新一代 Blackwell 系列芯片开始投入市场
所以是导致H100的租赁价格下跌到 2 美元/小时 的主要原因吗?!
抑或是真的市场算力过剩了???
作者: junior020486 (软蛋头)   2024-10-17 10:11:00
笑死,又要骗票还没出本来就会降,16要出之前,通讯行都降烂了
作者: happylinadog (happylinaredog)   2024-10-17 10:53:00
新的出了谁要租旧的

Links booklink

Contact Us: admin [ a t ] ucptt.com