據中國科學院自動化研究所消息,該所一研究團隊與其他單位合作設計了新型類腦神經形態系統級芯片Speck,展示了神經形態計算在融合高抽象層次大腦機制時的天然優勢,相關研究日前在線發表于國際學術期刊《自然·通訊》。
“人腦是非常復雜龐大的神經網絡系統,總功耗僅為20瓦,遠小于現有的人工智能系統。”中國科學院自動化研究所研究員李國齊說,因此,在算力比拼加速、能耗日益攀升的當下,借鑒人腦的低功耗特性發展新型智能計算系統成為極具潛力的方向。
人腦中的一個重要功能是根據外界刺激的重要程度,動態分配其有限的注意力資源,重要的刺激往往會獲得更多的關注,這被稱為注意力機制。該研究提出了“神經形態動態計算”的概念,將人腦中的高抽象層次注意力機制應用于類腦芯片設計,進一步挖掘了類腦芯片在性能和能效上的潛力。
李國齊表示,Speck是在一塊芯片上集成了動態視覺傳感器和神經形態芯片,具有極低的靜息功耗。典型視覺場景任務功耗可低至0.7毫瓦,為人工智能應用提供了高能效、低延遲和低功耗的類腦智能解決方案。
在本項研究中,合作團隊提出“神經形態動態計算”的概念,通過設計一種類腦神經形態芯片Speck來實現基于注意力機制的動態計算,在硬件層面做到“沒有輸入,沒有功耗”,在算法層面做到“有輸入時,根據輸入重要性程度動態調整計算”,從而在典型視覺場景任務功耗可低至0.7毫瓦,進一步挖掘出神經形態計算在性能和能效上的潛力。
Speck是一款異步感算一體類腦神經形態系統級芯片,采用全異步設計,在一塊芯片上集成了動態視覺傳感器(DVS相機)和類腦神經形態芯片,具有極低的靜息功耗(僅為0.42毫瓦)。它能夠以微秒級的時間分辨率感知視覺信息,以全異步方式設計拋棄了全局時鐘控制信號,避免時鐘空翻帶來的能耗開銷,僅在有事件輸入時才觸發稀疏加法運算。
李國齊指出,針對脈沖神經網絡(SNN)在更高層面,比如時間維度中不能根據輸入難易度調整其脈沖發放等“動態失衡”問題,這項研究基于注意力機制的神經形態脈沖動態計算框架,在多種粒度上實現對不同的輸入進行有區分地動態響應。同時,Speck軟件工具鏈編程框架支持動態計算脈沖神經網絡算法訓練和部署。
該研究的實驗結果表明,注意力機制可使得脈沖神經網絡具備動態計算能力,即根據輸入難易度調整其脈沖發放模式解決“動態失衡”問題,在顯著降低功耗的同時,提升任務性能。在一個動態視覺傳感數據集上,融合脈沖動態計算的Speck在任務精度提升9%的同時,平均功耗由9.5毫瓦降低至3.8毫瓦。
共0條 [查看全部] 網友評論