[新闻] AI芯片设计不再单纯考虑性能 如何降低成

楼主: zxcvxx (zxcvxx)   2021-10-26 11:47:15
原文标题:
AI芯片设计不再单纯考虑性能 如何降低成本与提高效率将成为重点
(请勿删减原文标题)
原文连结:
https://bit.ly/3Beh3nM
(请善用缩网址工具)
发布时间:
2021年10月26日
(请以原文网页/报纸之发布时间为准)
原文内容:
由于数十亿美元已投入AI新创公司,使得初期讨论重点都放在性能上。但是,随着AI训练
模型需要更多的运算资源,使得重点工作正在转移到芯片的运算成本之上。也就是说,AI
芯片的性价比反而变得更重要了。
AI芯片设计有不同的方法,如今的争论是采取整合芯片还是解耦(Decoupled)的方法更
为经济。对于芯片制造商来说,这是一场熟悉的战场:到底零组件应该整合在AI大型芯片
中,或分布在电路板或网络上的网络处理单元上。
当今流行的AI系统是利用分布在电脑中的数百个辉达绘图处理器来完成。英特尔于2016年
并购的Nervana Systems就是这种分布式方法的支持者,其AI处理是分别由更便宜的芯片
和零组件上运行,其中包括低成本DDR内存和 PCI-Express互连。建构大规模芯片的成
本远高于用于将多个芯片连接在一起的微型芯片。
Cerebras Systems认为,将一系列芯片串在一起作为AI群聚是会增加硬件和费用,非线性
扩展并将它们联系在一起,甚至将所有其他基础设施相结合,是会导致能源效率低下。
Cerebras于2021年8月出货WSE-2 AI超级芯片以来,拥有850,000颗核心,是前一代的两倍
。透过将互连频宽加快至220 Pb/s,使其比绘图处理器之间提供的频带还要快45,000倍以
上。即使Cerebras的设备很贵,但购买辉达12 DGX A100也是如此;而且Cerebras设备功
率更少,也没有其他隐藏成本。
不过,有专家表示,AI芯片开发是如此多样化,以至于厂商不能采取一刀切的方法来评断
。软件可以定义硬件,一些芯片可以在将相关数据输入神经网络之前,促进在边缘运算的
处理。
Deepvision认为,通常硬件平台的开发并没有太多考虑软件,以及它如何在平台之间扩展
。因此,该公司才开发了一种软件开发工具包,可将AI模型映射到各种硬件上。
未来,AI芯片设计也可能遵循Koomey定律,这是一个用来计算设备的耗电量每18个月就会
下降一半的定律。在芯片制造商停止提高芯片频率后,持续了数十年的CPU争夺战已经转
移到效率上。毕竟,AI应用变得越来越复杂,解决复杂问题的电量将必须受到限制。不能
为了提高性能而牺牲效率,这也是AI芯片未来的挑战。
心得/评论: ※必需填写满20字
企业投资开发AI芯片,初期着重提升性能,如今如何打造性价比高的芯片反而成为关键。
作者: AustinRivers (我尽力了Q___Q)   2021-10-26 11:51:00
哪个产品不需要性价比...

Links booklink

Contact Us: admin [ a t ] ucptt.com