[新闻] 科学家预估AI到2027年的用电量堪比荷兰

楼主: purplvampire (阿修雷)   2023-10-13 00:02:44
备注请放最后面 违者新闻文章删除
1.媒体来源:
iThome
2.记者署名:
文/陈晓莉 | 2023-10-12发表
3.完整新闻标题:
科学家预估AI到2027年的用电量堪比荷兰
4.完整新闻内文:
科学家们开始注重AI的环保问题,《Cell》的姐妹期刊《Joule》本周出版了一篇名为《
持续成长的人工智能能源足迹》(The growing energy footprint of artificial
intelligence)论文,指出人工智能(AI)推论可能会消耗大量的电力,作者Alex De
Vries更向《BBC》表示,到了2027年,AI的用电量可能等同于荷兰一年的电力使用。
这是继加州大学河滨分校电机与电脑工程系副教授Shaolei Ren今年初发表的AI“容易口
渴”的论文之后,另一篇与AI环保议题相关、并吸引媒体目光的研究。当时Ren于《
Making AI Less “Thirsty”: Uncovering and Addressing the Secret Water
Footprint of AI Models》中指出,在微软最先进的美国资料中心训练GPT-3时,将直接
消耗70万公升的干净淡水,相当于生产370辆BMW或320辆特斯拉,若是在微软的亚洲资料
中心训练,用水量将是3倍,若是于其它不那么先进的资料中心训练AI模型,用水量则会
更高。
而在推论上,ChatGPT仅是回答20~50个简单的问题就需要500ml的水,当ChatGPT拥有数十
亿用户,再加上改用规模更庞大的GPT-4,AI的用水量更是难以估计。
其实目前并没有针对AI用水或用电量的公开数据,不管是Ren或是来自Vries的最新研究都
是基于多种估计。
Vries为荷兰阿姆斯特丹自由大学商业与经济学院的博士候选人,同时他也是数位经济平
台Digiconomist及比特币耗电量指数Bitcoin Energy Consumption Index的创办人。这次
他于报告中指出,外界一向认为训练一个AI模型是AI最耗电的阶段,但Vries引用了
SemiAnalysis及Google的报告指出,推论所消耗的电力更多。
其中,Google的报告显示,自2019年到2021年,与AI相关的能源消耗中有60%来自推论。
至于半导体研究机构SemiAnalysis则说OpenAI的ChatGPT服务需要由3,617台Nvidia HGX
A100的服务器来支撑,Vries计算其每日耗电量,认为它高于训练GPT-3时所需要的电力。
另一方面,SemiAnalysis也估计,若要于Google搜寻中实现类似ChatGPT的搜寻能力,将
会需要512,821台的Nvidia HGX A100,且Alphabet董事长John Hennessy亦曾向《路透社
》(Reuters)透露,与大型语言模型互动的成本可能是标准关键字搜寻的10倍。
这使得Vries以Google在2021年的18.3 TWh耗电量来计算,当时AI占了Google整体耗电量
的10%~15%,在Google全面实施AI搜寻之后,其AI耗电量最高可能达到27.4 TWh,接近爱
尔兰一整年所使用的电力(29.3 TWh)。
就整个市场来看,随着Nvidia合作伙伴台积电(TSMC)所投资的新CoWoS包装厂预计于
2027年量产,Vries也估计届时Nvidia所交付的AI服务器数量与其用电量将达85~134 TWh
,相当于荷兰一年的电力使用。
总之,Vries认为AI产业应该要考虑相关的环境冲击,包括提高硬件效率,采用创新的模
型架构及算法,还建议开发人员不仅应专注于优化AI,也必须考虑使用AI的必要性,亦
督促监管机构导入具体的环境披露要求,以让此一新兴技术的环境成本更加透明化。
除了环境之外,SemiAnalysis今年初即曾发表一篇文章,分析了大型语言模型的实际成本
,指出ChatGPT每周的推论成本都超过训练成本,倘若Google在搜寻中部署了类似ChatGPT
的大型语言模型,原本拥有的300亿美元利润就会在一夜之间蒸发,转移到其它业者手上
或是用来改善TPU效能。
5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://www.ithome.com.tw/news/159236
6.备注:
听说有个总统候选人说要AI产业化,不知道他知不知道目前台湾的用电量跟用水量?
以及推动AI产业需要准备的用电量跟用水量是多少?

Links booklink

Contact Us: admin [ a t ] ucptt.com