标题:半导体创新正驱动生成式AI成长养分,生成式AI正强化半导体创新力量,两者互相正向影
响
新闻来源:iKnow科技产业资讯室
原文网址:https://bit.ly/3AXZXQl
原文:
大型科技公司已经花费了数十亿美元,并计划持续对AI进行投资。IDC预测,到2027年,
企业在生成式AI上的支出将达到1,511亿美元。AI的发展迎来了电脑架构的新黄金时代,
推动了对硬件创新的不懈需求,以提高运算能力。
为了训练AI模型,采用异质运算架构允许CPU和GPU协作移动和处理数据,以因应资料密集
过程,因而激发了厂商开发出更多运算能力、增加内存容量和提高内存频宽的研发工
作。
数兆颗电晶体处理器和数千个运算核心,以极快的速度在内存中读取和写入大量数据,
使这些核心能够全速运行,因而推出了新型内存HBM(高频宽内存)。
高频宽内存(HBM)是一种动态随机存取内存(DRAM),该标准于 2013年首次制定,其中
芯片垂直堆叠以节省空间并降低功耗。它们是能够处理生成式AI的先进内存芯片。它是
针对AI所使用的GPU的关键零组件,有助于处理复杂应用程式产生的大量数据。
全球第二大内存芯片制造商SK海力士9月初表示,将于9月底开始量产12层HBM3E芯片,
预计从2025年下半年开始出货HBM4。
除了海力士寻求台积电合作之外,三星电子也决定和台积电合作开发无缓冲 HBM4内存
。
高速互连(High-speed interconnect)在AI处理中同样重要,因为大量的训练工作负载被
分配在许多处理器之间并平行运作。当今的异质架构连接了数千个处理单一问题的运算装
置。这些装置之间需要快速通讯,以最大限度地缩短训练AI模型的时间。
随着资料速率的提高和通讯协定的发展以满足高速通讯的需求,讯号完整性和可靠性面临
挑战。为了满足生成式AI的互连频宽需求,PCI Express等主要互连标准都采用PAM4。
PAM4(Four-level pulse amplitude modulation)是一种编码方案,允许每个时脉周期传
输四位元资讯,从而允许互连频宽在这些互连所施加的物理限制内增加。
另外一个创新是确保生成式AI的安全的创新。强大的加密机制,例如AES(Advanced
Encryption Standard)和安全金钥管理实践,是建构资料机密性的基础。必须保护资料集
免受旨在“毒害”训练过程并损坏生成式AI模型的资料的影响。同样,必须保护算法、
方法和模型免遭不必要的存取或盗窃。
总之,要维持生成式AI的快速崛起,就需要半导体技术的进步。如今半导体产业占据了舞
台的中心,将成为未来AI走到多远的关键呢!
心得:
大型科技公司对AI的持续投入推动了对硬件的创新,尤其是在内存和互连技术方面。
IDC预测,到2027年,企业在生成式AI上的支出将达到1,511亿美元。为满足AI需求,记忆
体技术如高频宽内存(HBM)及其未来版本HBM4,正被迅速开发和量产。高速互连技术如
PAM4也在提升数据传输速率以支持大规模AI处理。这些技术的进步对AI的发展至关重要,
未来AI的持续突破将依赖于这些半导体技术的进一步发展。