結合人工神經元和RRAM的新晶片 強化AI邊 - 工程師

結合人工神經元和RRAM的新晶片 強化AI邊緣運算效率並在穿戴式和無人機應用

https://bit.ly/3AOLeER

一篇新發表在Nature的研究論文描述了一種記憶體內運算（Compute-in-Memory；CIM）晶
片，該晶片將人工神經元與電阻式記憶體（RRAM）相結合，從而可以在同一晶片上儲存和
處理AI模型。該設計消除了運算和記憶體之間的數據移動，因此對邊緣應用程式的效果更
佳。

根據IDC，邊緣運算和AI都有望在不久的將來迅速成長。如今一些應用場景將它們兩個結
合在一起，因為配置邊緣運算可能會受到功率和連網性的限制，但仍需要分析大量數據並
對事件提供近乎即時反應，從而使AI模型可在裝置中運行，CIM就成為了最佳的解決方案
。

現在，有研究人員開發了NeuRRAM晶片，這是一種將人工神經元與RRAM結合在一起的新穎
架構。該專案的目標是提供一種能夠同時提供高能源效率以及支持各種AI模型的多功能設
計，且能在軟體中運行相同模型時可獲得相當的準確性。

研究員表示，NeuRRAM被開發為AI晶片之後，將可大大提高AI推理的能源效率，從而在電
池供電的邊緣裝置中實現複雜的AI功能，例如：智慧穿戴式裝置、無人機和工業物聯網感
測器等，都是可以應用的領域。

以前有關於CIM架構的研究都聚集在軟體層面，但是這一次卻是在硬體中展示廣泛的AI應
用程式，是非常大的突破。

NeuRRAM是由48個CIM核心組成，總共包含300萬個RRAM單元。每個核心都是一個TNSA（
transposable neurosynaptic array），由256 × 256　RRAM單元的網格和256個CMOS人
工神經元電路組成。

根據該論文，TNSA架構旨在提供對數據流方向的靈活控制，這對於支持具有不同數據流模
式的各種AI模型至關重要。

NeuRRAM可重構的秘訣在於它將CMOS神經元電路分佈在RRAM單元之間，並沿著行和列的長
度將它們連接起來。且每個TNSA被分解成許多小核，每個小核由16 × 16 RRAM單元和一
個神經元電路組成。小核通過水平方向的共享BL（bit-lines）和WL（word-lines） 以及
垂直方向的SL（source-lines）連接。這種安排意味著可以通過配置在每個神經元電路的
輸入和輸出階段使用哪個開關來實現不同的數據流方向。

根據該論文，該晶片將採用130奈米CMOS 技術製造，預計效能會隨著技術演進而提高。如
今許多晶圓代工廠已經具備製造RRAM的能力，但主要用於嵌入式記憶體，而不是用於CIM
。一旦RRAM 能為IC設計人員提供更廣泛的應用之後，NeuRRAM產品就可能會出現。預計商
品化還要兩至三年的時間才能達成。

--