产业正在寻找另一种突破生成式AI要太多运算的解决方案
https://bit.ly/3LN4E25
2018年，OpenAI发布的一项分析显示，自2012年以来，最大规模的AI训练运行中使用的运
算能力呈指数级成长，每3.4个月翻一倍。根据换算，自2012年以来，这一指标已经成长
了30万倍以上（如果以摩尔定律，半导体性能每两年翻一倍之下，只能产生7倍的成长）
。
可是这种发展趋势不可能无限制发展下去。许多专家不认为建立更大的大型语言模型会推
动生成式AI领域向前发展。即使在现阶段，训练这些模型的运算成本仍然非常昂贵，不仅
要花钱，而且还会对气候造成更大的碳足迹。IEEE认为，AI研究界还需要一到两年的时间
才能找到新可行的解决方案。
新创公司也正在寻求取代辉达GPU的方式。例如：Graphcore、Kneron和iDEAL
Semiconductor等美国AI芯片新创公司将自己视为辉达等产业巨头的替代品。 Graphcore
正在提出一种名为智慧处理单元（IPU）的新型处理器，该公司表示，该处理器是从头开
始设计的，旨在满足AI运算需求。Kneron的芯片专为边缘AI应用而设计，例如电动车或智
慧建筑。
至于iDEAL Semiconductor，则于2023年5月推出了一种名为“SuperQ”的新型硅基架构，
声称该架构可以在二极管、MOSFET和积体电路等半导体装置中产生更高的效率和更高的电
压性能。
此外，许多公司也在投资可以在本地运行小型AI模型的产品，称为边缘AI。根据研究，边
缘AI可协助放射科医师识别病理、透过物联网设备控制办公大楼、并用于控制自动驾驶汽
车。2021年边缘AI市场估值为120亿美元，预计2029年将达到1,074.7亿美元。
Gartner表示，GPU芯片的扩展迟早将无法跟上AI模型大小的成长。因此，继续让模型变得
越来越大并不是一个可行的选择。iDEAL Semiconductor表示，现今全球需要开发更有效
率的大型语言模型和AI解决方案，但即使如此，额外GPU的生产仍是这个等式中不可避免
的一部分。
毕竟，在尚未找出新解决方案之前，台积电和辉达就扮演的供应足够GPU的关键角色，台
积电承认预计要到2024年才能获得纾解。
总之，一般相信生成式AI对于运算的需求只会不断扩大，除了GPU之外，未来两年内只要
能够找到一种新的解决方案，生成式AI才能持续发展下去，也才能进一步带来更多产业的
成长动力。