研究人員設計了一種新型“計算隨機存取存儲器”（CRAM：computational random-access memory）原型芯片，與目前的方法相比，它可以將人工智能應用的能源需求降低1,000 倍甚至更多。在一次模擬中，CRAM 技術顯示出令人難以置信的 2,500 倍節能效果。
 

傳統計算依賴于已有數十年歷史的馮·諾依曼架構，該架構由獨立的處理器和內存單元組成，需要不斷來回移動數據，這是一個耗能過程。明尼蘇達團隊的 CRAM 完全顛覆了該模型，它使用稱為磁隧道結 (MTJ) 的自旋電子器件直接在內存內部進行計算。

自旋電子設備并不依賴電荷來存儲數據，而是利用電子自旋，為傳統的基于晶體管的芯片提供了更有效的替代品。

《自然》雜志發表的論文合著者 Ulya Karpuzcu 表示：“作為一種極其節能的數字內存計算基板，CRAM 非常靈活，可以在內存陣列的任何位置執行計算。因此，我們可以重新配置 CRAM，以最好地滿足各種人工智能算法的性能需求。”他補充說，它比當今人工智能系統的傳統構建塊更節能。

通過消除邏輯和內存之間耗電的數據傳輸，類似這種原型的 CRAM 技術對于在人工智能能源需求激增的時代大幅提高其能源效率至關重要。

國際能源署 3 月份預測，全球用于人工智能訓練和應用的電力消耗可能會增長一倍以上，從 2022 年的 460 太瓦時增至 2026 年的 1,000 多太瓦時——幾乎相當于日本全國的用電量。
 

研究人員表示，這一突破的基礎已經醞釀了 20 多年，可以追溯到工程學教授王建平在使用 MTJ 納米設備進行計算方面的開創性工作。

王承認，他們最初提出的拋棄馮·諾依曼模型的提議在二十年前“被認為是瘋狂的”。但明尼蘇達團隊堅持了下來，在王的專利 MTJ 研究的基礎上，開發出了磁性 RAM (MRAM)，目前這種技術已用于智能手表和其他嵌入式系統。

當然，與任何此類突破一樣，研究人員仍需應對可擴展性、制造和與現有硅片集成方面的挑戰。他們已計劃與半導體行業領導者進行演示合作，以幫助將 CRAM 變成商業現實。
 

研究人員開發出最先進的設備，使人工智能更加節能

明尼蘇達大學雙城分校的工程研究人員展示了一種最先進的硬件設備，它可以將人工智能 (AI) 計算應用的能耗降低至少 1,000 倍。

這項研究發表在《自然》雜志的同行評議科學期刊 《npj Unconventional Computing》上。研究人員擁有該設備所用技術的多項專利。

隨著人工智能應用需求的不斷增長，研究人員一直在尋找方法來創建更節能的流程，同時保持高性能和低成本。通常，機器或人工智能流程在邏輯（系統內處理信息的地方）和內存（存儲數據的地方）之間傳輸數據，消耗大量的電力和能源。

明尼蘇達大學科學與工程學院的一組研究人員展示了一種數據永遠不會離開內存的新模型，稱為計算隨機存取存儲器（CRAM）。 

明尼蘇達大學電氣與計算機工程系博士后研究員、論文第一作者楊呂說：“這項工作是 CRAM 的首次實驗演示，其中數據可以完全在存儲器陣列內處理，而無需離開計算機存儲信息的網格。”

國際能源署（IEA）于2024年3月發布了全球能源使用預測，預測人工智能的能源消耗可能會從2022年的460太瓦時（TWh）增加一倍至2026年的1,000 TWh。這大致相當于日本整個國家的電力消耗。

據新論文作者稱，基于 CRAM 的機器學習推理加速器估計可實現 1,000 量級的改進。另一個例子顯示，與傳統方法相比，能源節省了 2,500 倍和 1,700 倍。

這項研究已經進行了二十多年，“我們 20 年前直接使用存儲單元進行計算的最初想法被認為是瘋狂的”，該論文的資深作者、明尼蘇達大學電氣與計算機工程系杰出 McKnight 教授兼 Robert F. Hartmann 主席王建平 (Jian-Ping Wang) 說道。

王說：“自 2003 年以來，隨著學生群體的不斷發展，以及明尼蘇達大學建立起一支真正的跨學科教師團隊——從物理學、材料科學與工程、計算機科學與工程到建模和基準測試以及硬件創建——我們能夠取得積極的成果，現在已經證明這種技術是可行的，并且已經準備好融入技術中。”

這項研究是王教授及其同事長期不懈努力的一部分，該研究以磁隧道結 (MTJ) 器件的開創性專利研究為基礎，MTJ 器件是一種納米結構器件，用于改進硬盤、傳感器和其他微電子系統，包括磁性隨機存取存儲器 (MRAM)，已用于微控制器和智能手表等嵌入式系統。

CRAM 架構實現了真正的在內存中進行計算，打破了傳統馮·諾依曼架構中計算與內存之間的瓶頸——馮·諾依曼架構是一種存儲程序計算機的理論設計，是幾乎所有現代計算機的基礎。

“作為一種極其節能的數字內存計算基板，CRAM 非常靈活，可以在內存陣列的任何位置執行計算。因此，我們可以重新配置 CRAM，以最好地滿足各種 AI 算法的性能需求，”計算架構專家、論文合著者、明尼蘇達大學電氣與計算機工程系副教授 Ulya Karpuzcu 表示。“它比當今 AI 系統的傳統構建塊更節能。”

Karpuzcu 解釋說，CRAM 直接在存儲單元內執行計算，有效利用陣列結構，從而無需緩慢且耗能的數據傳輸。

最高效的短期隨機存取存儲器 (RAM) 設備使用四到五個晶體管來編碼 1 或 0，但 MTJ（一種自旋電子器件）可以以極低的能量執行相同的功能，速度更快，并且能夠適應惡劣環境。自旋電子器件利用電子自旋而不是電荷來存儲數據，為傳統基于晶體管的芯片提供了更高效的替代方案。

目前，該團隊一直計劃與明尼蘇達州等半導體行業領導者合作，提供大規模演示并生產硬件以推進人工智能功能。