1.媒体来源:TVBS新闻网
2.记者署名:记者 谢宜伦 / 摄影 朱光弘 / 编辑 新闻中心 报导
3.完整新闻标题:
影音/一个AI指令“用掉家庭一日电”! 用电量3年飙7.5倍 台湾撑得住吗?
4.完整新闻内文:
https://www.youtube.com/watch?v=hQuenIPcyoU
AI运算背后庞大的电力需求正成为科技发展的隐忧,当使用者轻松下达一个AI指令时,支
撑这项技术的是一箱箱服务器与惊人的电力消耗。专家指出,单一小型服务器一小时就要
消耗5度电,相当于一般家庭整天的用电量,而随着AI技术不断推进,预估用电量将在3年
内暴增7.5倍,台湾是否有足够电力支撑这波AI海啸,已成为各界关注焦点。
拥抱AI的背后...运算中心用电恐压垮台湾?(图/AI)
在AI应用公司的机房中,一排排黑色服务器不停运转,工程师们时刻监控著系统状态,确
保客户的系统不会出现问题。SOAI应用公司技术协理洪嘉键表示,过热可能会引发火警,
因此工程师最担心的就是整个机房的运作状况,一旦过热将导致机房面临极大的危险性。
AI运算的背后,运算中心服务器耗电大拆解。(图/TVBS)
走进小型运算中心,耳边传来的是风扇持续运转的声音。服务器如同红酒一般娇贵,必须
维持恒温控温,整个空气要保持流通,若温度过高就会导致热当机。目前机房内的一落伺
服器,光是一小时的运转就要消耗5度电,相当于一般家庭一整天的用电量,电费约50元
。换言之,使用者支付的AI订阅费用,有相当比例是在负担电费成本。
小型服务器每小时约50元电费,大型系统用电翻倍。(图/TVBS)
技术协理洪嘉键进一步说明,机房平常运作温度大约维持在22度上下,整个机房的电力分
配中,服务器本身大概占了50%,冷却设备则占了30%至40%。若要支撑一个强大的AI算力
系统,需要将这样的小房间放大数百倍,规模可超过4个台北大安森林公园。
一指令耗电惊人!运算中心最怕过热当机
智能机器创办人兼执行长吴柏翰指出,使用AI按一个指令下去之后,一般电灯泡可以使用
约3分钟,但瞬间那个思考运算的时间一结束,电灯泡的电量就等于用光了。他认为目前
的趋势是,虽然服务器一直盖、电厂一直建非常消耗资源,因此大家开始转向所谓的节能
型AI。吴柏翰解释,节能型AI的概念是把大的模型蒸馏成小的模型,小模型所消耗的电量
就会更低。他举例说明,原本3分钟电灯泡用电量的时间,现在可以变成18秒,因为这个
模型只需要执行特定的事情就好。一般这种3分钟电量的模型可能做很多元的事情,但消
耗的电量也大,因此他认为在未来的市场上,两种模型将会平行发展。
运算中心逐步兴建!3年后用电量暴增7.5倍
尽管台电不断强调台湾供电绰绰有余、不缺电,可以供应北士科、辉达需要的电力,国科
会也提到未来像这样的运算中心将一个个盖起来,每家公司都将拥有各自的AI系统。尤其
现在GB200耗电量就高达100KW以上,一小时消耗100度电,接下来芯片、GPU不断推陈出新
,预估用电量将在3年内暴增7.5倍。
资策会策略总监王瑞民分析,现在赶快盖燃气电厂事实上也来不及,核能延役听起来好像
也要一两年,小型核能更是需要更久的时间,前面三个方案通通不可能立即实现。他指出
,事实上美国在过去几年也面临AI资料中心没有电的问题,很多服务器买的时候就只能搁
置在那边。现在美国政府容许像Meta、Facebook这些公司自己去盖电厂,因此Blue
Energy这种从石油天然气中去碳存氢的方式,是一个比较能立刻解决问题的方案。王瑞民
还提到另一个策略,就是把这些AI资料中心集中在一起,全部放在一处,这样在电的使用
或管理上面会更有效率。
业者也提到,当电力问题解决了,偏偏下一阶段的算力技术又不知道已经达到什么样的水
准,形成永无止境的追逐。
AI算力背后,除了服务器运转,还需要冷却系统帮散热。(图/TVBS)
台湾气候行动网络研究中心总监赵家纬表示,辉达其实一直很强调一件事,他们认为AI可
以回馈过来协助提高能源效率。的确,国际能源总署的预估也有估算,AI在其他面向带来
的节电成效,会是新增加能源用量的3倍以上。赵家纬强调,在台湾的制度设计里面,要
思考如何能够引导AI资料中心的能源效率提升,并尽可能使用绿电,同时还要把台湾的AI
应用回馈到其他产业,去削减其他地方的用电量。
辉达执行长黄仁勋这次来台,不断强调要有能源才有AI,但也呼吁大家拥抱AI,重点是没
电、没网络就没有AI。目前全台用电量分配中,制造端占9%,随着技术推进,未来占比将
会越来越多,算力中心目前仅占0.5%,看起来负载并不高,但终究还是得面对一个关键问
题:电力是否真的足够支撑这波AI海啸。
5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://news.tvbs.com.tw/tech/3218895
6.备注:
AI缺电躲不掉?台达电郑平揭数据:2028年缺口达40% (台达电董事长暨执行长郑平
台北国际电脑展今日正式登场,并开启为期5天的展期,电源供应龙头厂台达电(2308)
也参展出席,董座郑平也露面分享对AI电力需求的观点,并直指AI发展至2028年时,资料
中心与电网的需求缺口将会高达40%,直言“AI发展会陷入电力瓶颈。”
郑平指出,AI发展现在陷入电力瓶颈,以美国来说,到2028年为止,新增资料中心将会额
外需要44GW的电力需求。然而电网新增的供电能力仅25GW,电力缺口高达40%。
就AI扩张的速度来看,郑平强调,AI的扩张速度远远超过电力投资,从2022年ChatGPT问
世以来,CSP的投资快速上升,呈现倍数增长,而电力公用事业因为法规、设备生命周期
动辄30-50年,建设速度远不及云端设备业者。
他更拿出数据指出,美国四大CSP资本支出从2022-2026整整增加4.7倍之多,而美国电力
公司的资本支出却仅上升1.77倍,两者差距极大。
因此,美国要求科技厂自建电厂来解决大量电力需求,从太阳能、风力发电等方式,甚至
透过微电网等形式来解决电力落差。
郑平也指出,台达因此也给出微电网解决方案,甚至预制型解决方案,如AI 模组化资料
中心、AI货柜型资料中心、电力模组系统等等货柜型的方案,来协助企业面对电力的需求
。