[新闻] 采用辉达顶级芯片 数发部打造AI算力计画

楼主: CNS3056 (奶奶)   2024-06-02 23:41:26
1.媒体来源:中央社
2.记者署名:苏思云
3.完整新闻标题:
采用辉达顶级芯片 数发部打造AI算力计画7月开跑
4.完整新闻内文:
数发部力拼台湾成为AI之岛,今年斥资新台币数千万元购买辉达(NVIDIA)、超微(AMD
)顶级算力芯片,建构“算力池”提供给产业运用,最快7月免费对外开放资服业者申请A
I算力,包括基因排序、气候变迁、长照行为侦测等模拟运算,可望让创新点子“跑得更
快”。
数发部数位产业署副署长胡贝蒂接受中央社采访时表示,“数位产业跨域软件基盘暨数位
服务跃升计画”属于数位公共建设,透过打造AI算力、数据、程式码3大元件库,让许多
模型与应用不用从零开始,有需求者可以到3间仓库取用有需要的元件,加速业者的创新
应用。
近年蔚为热潮的生成式AI应用,需要大量资料与算力,也带动AI产业链蓬勃发展。胡贝蒂
说,AI算力要价不菲,企业就算想用,一来可能买不到足够算力,二来阶段性使用完毕,
也可能有剩余算力没被善加运用,数产署打造“AI算力池”,透过算力共享概念,有需求
的团队就可以申请AI算力。
数位产业署打造的AI算力池,首年度规划采用辉达的H100芯片32片、AMD的MI300X芯片8片
,展示强大运算火力,后续逐年视需求增购绘图处理器(GPU)算力。
至于哪些题目可以运算,胡贝蒂表示,考量新创团队初期资源较少,因此可能作为加分项
目,乐见产业带着题目组队申请,希望主题对社会影响力高。规划7月开放业者可以申请A
I算力,后续由审查小组审核计画,申请一次约可使用6周算力,目标今年让60家业者使用
AI算力。
例如,金融业可能在客服上会需要大型语言模型,机构针对照护者行为侦测可能也有对AI
运算的需求,部分社福单位碍于人力,也希望透过AI提升工作效率。
胡贝蒂举例,基金会可能有不少照顾服务员在拜访老人时都需要纪录、回答提问等,但照
服员可能光查阅手册资料就需要不少时间,若汇整照服员的相关知识,训练为具备特定知
识背景的聊天机器人,有望让新手照服员快速上手,借此投入更多心力做关怀服务。若开
发这类模型,也有机会扩散到其他有类似需求的单位。
借由AI算力计画,胡贝蒂表示,希望可以更了解民间对于AI算力的需求,未来规划AI生态
园区时,也可以回馈相关意见。
5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://www.cna.com.tw/news/afe/202406020029.aspx
6.备注

Links booklink

Contact Us: admin [ a t ] ucptt.com