美國麻省理工學院研究人員組成的多學科團隊正著手推動提高一種人工模擬突觸的速度極限。他們在制造過程中使用了一種實用的無機材料,使設備運行速度比以前的版本快100萬倍,也比人腦中的突觸快約100萬倍。該研究近日發(fā)表在《科學》雜志上。
麻省理工學院開發(fā)的這種無機材料使電阻器非常節(jié)能。與早期版本的設備中使用的材料不同,新材料與硅制造技術兼容。這一變化使制造納米級設備成為可能,并可能為集成到深度學習應用的商業(yè)計算硬件鋪平道路。
該裝置的工作機制是將最小的離子—質子通過電化學方式,插入絕緣氧化物中,以調節(jié)其電子導電性。因為研究使用非常薄的設備,因此可通過使用強電場來加速這種離子的運動,并將這些離子設備推到納秒級的運行狀態(tài)。
這一設備極大地提高了神經(jīng)網(wǎng)絡的訓練速度,同時大大降低了執(zhí)行訓練的成本和能量。這可幫助科學家更快地開發(fā)深度學習模型,然后將其應用于自動駕駛汽車、欺詐檢測或醫(yī)學圖像分析等用途。研究人員描述稱,這不是一輛“更快的汽車”,而是一艘“宇宙飛船”。
這一技術的關鍵元素是質子可編程電阻器,這些電阻以納米為單位排列成陣列,就像棋盤一樣。
在人腦中,學習是由于神經(jīng)元之間的連接(稱為突觸)的增強和減弱而發(fā)生的。深度神經(jīng)網(wǎng)絡長期以來一直采用這種策略,新處理器則利用增加和減少質子電阻器的電導,實現(xiàn)模擬機器學習。
為了開發(fā)這種超快速且高能效的可編程質子電阻器,研究人員尋找了不同的電解質材料——無機磷硅玻璃(PSG)。PSG能夠實現(xiàn)超快質子運動,還可承受非常強的脈沖電場。這一點非常關鍵,因為向設備施加更多電壓,可使質子以驚人的速度移動。
研究人員表示,因為質子不會損壞材料,電阻器可運行數(shù)百萬次循環(huán)而不會損壞。這種新的電解質使可編程質子電阻器的速度比以前的設備快100萬倍,并且可在室溫下有效運行,這對于將其整合到計算硬件中非常重要。
【總編輯圈點】
人工智能領域的研究者看到這條新聞時,可能會眼前一亮。近年來,市場開發(fā)出的深度神經(jīng)網(wǎng)絡規(guī)模越來越大,神經(jīng)節(jié)點越來越多,參數(shù)也越來越復雜。這些都在推動人工智能變得更加“聰明”。但隨之而來的是,大型深度神經(jīng)網(wǎng)絡的搭建成本和訓練成本十分高昂,能耗也不低。這對希望搭建自己的人工智能訓練模型的創(chuàng)業(yè)公司或小微企業(yè)來說,并非利好。高能效質子可編程電阻器可以提高人工神經(jīng)網(wǎng)絡的訓練速度,同時降低訓練的成本和能耗,人工智能的發(fā)展又多了一塊“鋪路石”。
關鍵詞: