结合人工神经元和RRAM的新芯片 强化AI边缘运算效率并在穿戴式和无人机应用
https://bit.ly/3AOLeER
一篇新发表在Nature的研究论文描述了一种内存内运算(Compute-in-Memory;CIM)晶
片,该芯片将人工神经元与电阻式内存(RRAM)相结合,从而可以在同一芯片上储存和
处理AI模型。该设计消除了运算和内存之间的数据移动,因此对边缘应用程式的效果更
佳。
根据IDC,边缘运算和AI都有望在不久的将来迅速成长。如今一些应用场景将它们两个结
合在一起,因为配置边缘运算可能会受到功率和连网性的限制,但仍需要分析大量数据并
对事件提供近乎即时反应,从而使AI模型可在装置中运行,CIM就成为了最佳的解决方案
。
现在,有研究人员开发了NeuRRAM芯片,这是一种将人工神经元与RRAM结合在一起的新颖
架构。该专案的目标是提供一种能够同时提供高能源效率以及支持各种AI模型的多功能设
计,且能在软件中运行相同模型时可获得相当的准确性。
研究员表示,NeuRRAM被开发为AI芯片之后,将可大大提高AI推理的能源效率,从而在电
池供电的边缘装置中实现复杂的AI功能,例如:智慧穿戴式装置、无人机和工业物联网感
测器等,都是可以应用的领域。
以前有关于CIM架构的研究都聚集在软件层面,但是这一次却是在硬件中展示广泛的AI应
用程式,是非常大的突破。
NeuRRAM是由48个CIM核心组成,总共包含300万个RRAM单元。每个核心都是一个TNSA(
transposable neurosynaptic array),由256 × 256 RRAM单元的网格和256个CMOS人
工神经元电路组成。
根据该论文,TNSA架构旨在提供对数据流方向的灵活控制,这对于支持具有不同数据流模
式的各种AI模型至关重要。
NeuRRAM可重构的秘诀在于它将CMOS神经元电路分布在RRAM单元之间,并沿着行和列的长
度将它们连接起来。且每个TNSA被分解成许多小核,每个小核由16 × 16 RRAM单元和一
个神经元电路组成。小核通过水平方向的共享BL(bit-lines)和WL(word-lines) 以及
垂直方向的SL(source-lines)连接。这种安排意味着可以通过配置在每个神经元电路的
输入和输出阶段使用哪个开关来实现不同的数据流方向。
根据该论文,该芯片将采用130奈米CMOS 技术制造,预计效能会随着技术演进而提高。如
今许多晶圆代工厂已经具备制造RRAM的能力,但主要用于嵌入式内存,而不是用于CIM
。一旦RRAM 能为IC设计人员提供更广泛的应用之后,NeuRRAM产品就可能会出现。预计商
品化还要两至三年的时间才能达成。