人工大腦能有多遠(yuǎn)?也許還有很長一段路要走,但大腦網(wǎng)絡(luò)的基本要素——突觸——的一個有效的類似物現(xiàn)在似乎近在咫尺。
這是因?yàn)橐环N從電池中汲取靈感的設(shè)備現(xiàn)在看起來非常適合運(yùn)行人工神經(jīng)網(wǎng)絡(luò)。它被稱為電化學(xué)RAM(ECRAM),它給傳統(tǒng)的基于晶體管的人工智能帶來了意想不到的收益,并在開發(fā)完美的人工突觸的競賽中迅速走向領(lǐng)先地位。研究人員最近在IEEE國際電子設(shè)備會議(IEDM 2022)和其他會議上報告了一系列進(jìn)展,包括使用更少能量、保存更久和占用更少空間的ECRAM設(shè)備。
為今天的機(jī)器學(xué)習(xí)算法提供動力的人工神經(jīng)網(wǎng)絡(luò)是一種軟件,它對大量基于電子技術(shù)的“神經(jīng)元”以及它們的許多連接或突觸進(jìn)行建模。研究人員認(rèn)為,用真實(shí)的設(shè)備來表示組件,尤其是突觸,會產(chǎn)生更快、更節(jié)能的人工智能,而不是用軟件來表示神經(jīng)網(wǎng)絡(luò)。這個被稱為模擬AI的概念需要一個結(jié)合了大量難以獲得的屬性的存儲單元:它需要保持足夠大的模擬值范圍,可靠且快速地在不同值之間切換,長時間保持其值,并且能夠大規(guī)模生產(chǎn)。
“These devices responded much faster than the brain synapse. As a result, they give us the possibility of essentially being able to do a brainlike computation, artificial-intelligence computation, significantly faster than the brain, which is what we really need to realize the promise of artificial intelligence.”
—Jesus del Alamo, MIT
大多數(shù)類型的存儲器都適合于存儲數(shù)字值,但噪聲太大,無法可靠地存儲模擬值。但回到2015年,由Alec Talin領(lǐng)導(dǎo)的桑迪亞國家實(shí)驗(yàn)室的一組研究人員意識到答案就在他們面前:電池的充電狀態(tài)。
“從根本上講,電池是通過在兩種材料之間移動離子來工作的。當(dāng)離子在兩種物質(zhì)之間移動時,電池會儲存和釋放能量,”現(xiàn)為密歇根大學(xué)材料科學(xué)與工程教授的Yiyang Li說,“我們發(fā)現(xiàn),我們可以使用相同的過程來存儲信息。”
換句話說,通道中的離子數(shù)量決定了存儲的模擬值。理論上,單個離子的差異是可以檢測的。ECRAM使用這些概念,通過第三柵極端子控制“電池”中的電荷量。
想象一個電池,左邊是負(fù)極,中間是離子摻雜通道,右邊是正極。由通道中的離子數(shù)量規(guī)定的正負(fù)端子之間的導(dǎo)電率決定了設(shè)備中存儲的模擬值。在通道上方,有一個電解質(zhì)屏障,允許離子(而不是電子)通過。在屏障的頂部是一個儲層,含有流動離子的供應(yīng)。施加到該儲槽的電壓充當(dāng)“門”,迫使離子通過電解質(zhì)阻擋層進(jìn)入通道,或相反。如今,切換到任何所需的存儲值所需的時間非常快。
麻省理工學(xué)院工程和計算機(jī)科學(xué)教授Jesus del Alamo表示:“這些設(shè)備的反應(yīng)比大腦突觸快得多。因此,它們給我們提供了一種可能性,即基本上能夠進(jìn)行類似大腦的計算,人工智能計算,其速度明顯快于大腦,這是我們真正需要實(shí)現(xiàn)人工智能的承諾。”
最近的發(fā)展迅速使ECRAM接近理想模擬存儲器所需的所有質(zhì)量。
“
能量更低
離子不會比單個質(zhì)子小。Del Alamo在麻省理工學(xué)院的團(tuán)隊(duì)選擇了這種最小的離子作為他們的信息載體,因?yàn)樗鼰o與倫比的速度。就在幾個月前,他們展示了一種設(shè)備,這種設(shè)備可以在幾納秒內(nèi)移動離子,大約是大腦突觸的10000倍。但速度還不夠。
“我們可以看到設(shè)備對仍然有點(diǎn)太大的(電壓)脈沖的響應(yīng)非常快,”del Alamo說,“這是一個問題。我們希望能夠讓設(shè)備對電壓較低的脈沖的響應(yīng)速度非常快,因?yàn)檫@是能源效率的關(guān)鍵。”
在近日于IEEE IEDM 2022上發(fā)表的研究中,麻省理工學(xué)院的團(tuán)隊(duì)首次對電流進(jìn)行實(shí)時研究,深入了解了他們設(shè)備的運(yùn)行細(xì)節(jié)。他們發(fā)現(xiàn)了他們認(rèn)為的阻礙器件在較低電壓下切換的瓶頸:質(zhì)子很容易穿過電解質(zhì)層,但需要在電解質(zhì)和通道之間的界面施加額外的電壓。del Alamo說,有了這些知識,研究人員相信他們可以設(shè)計材料界面,以降低開關(guān)所需的電壓,從而為更高的能源效率和可擴(kuò)展性打開大門。
“
內(nèi)存更久
編程后這些器件通常會保持幾個小時的電阻率。桑迪亞國家實(shí)驗(yàn)室(Sandia National Laboratories)和密歇根大學(xué)(University of Michigan)的研究人員聯(lián)手,將這一保留時間上限提高到10年。他們在11月的《先進(jìn)電子材料》雜志上發(fā)表了他們的研究結(jié)果。
為了長時間保持記憶,由Yiyang Li領(lǐng)導(dǎo)的團(tuán)隊(duì)選擇了麻省理工學(xué)院設(shè)備中較重的氧離子而不是質(zhì)子。即使有更大質(zhì)量的離子,他們觀察到的情況也是出乎意料的。Li回憶道:“我記得有一天,當(dāng)我在旅行時,我的研究生Diana Kim向我展示了這些數(shù)據(jù),我很驚訝。我們沒想到它會如此不穩(wěn)定。我們后來一遍又一遍地重復(fù)這個過程,才獲得足夠的信心。”
他們推測,非揮發(fā)性來源于他們選擇的材料,氧化鎢,以及氧離子在其中的排列方式。“我們認(rèn)為這是由于一種叫做相分離的物質(zhì)特性,它允許離子自行排列,從而沒有驅(qū)動力將其推回,”Li解釋道。
不幸的是,如此長的保留時間是以犧牲切換速度為代價的,對于Li的設(shè)備來說,切換速度只需幾分鐘。但是,研究人員表示,對如何實(shí)現(xiàn)保留時間的物理理解使他們能夠?qū)ふ彝瑫r具有長記憶和更快切換特性的其他材料。
“
面積更小
這些設(shè)備上增加的第三個終端使它們比競爭的兩個終端存儲器更大,限制了可擴(kuò)展性。韓國浦項(xiàng)科技大學(xué)的研究人員將這些裝置放在一邊,以幫助縮小裝置并將其有效地封裝成陣列。這使得研究人員能夠?qū)⑦@些設(shè)備的占地面積減少到30×30納米,面積約為前幾代的五分之一,同時保持了開關(guān)速度,甚至提高了能效和讀取時間。研究人員還在IEEE IEDM 2022上報告了他們的結(jié)果。
該團(tuán)隊(duì)將他們的器件構(gòu)造成一個巨大的垂直堆疊:源極沉積在底部,導(dǎo)電溝道放置在下一個,然后是其上方的漏極。為了讓漏極允許離子進(jìn)出溝道,他們用單層石墨烯取代了通常的半導(dǎo)體材料。這種石墨烯漏極還用作控制離子流的額外屏障。在其上方,他們放置了電解質(zhì)屏障,最后在頂部放置了離子池和柵極端子。使用這種配置,不僅性能沒有降低,而且將信息寫入和讀取設(shè)備所需的能量也降低了。結(jié)果,讀取狀態(tài)所需的時間減少了20倍。
盡管有上述所有進(jìn)步,但加速AI訓(xùn)練的商用ECRAM芯片仍有一段距離。IBM Research AI Hardware Center的項(xiàng)目總監(jiān)John Rozen表示,這些設(shè)備現(xiàn)在可以由鑄造友好材料制成,但這只是故事的一部分。“社區(qū)的一個關(guān)鍵焦點(diǎn)應(yīng)該是解決集成問題,使ECRAM設(shè)備能夠與前端晶體管邏輯在同一晶圓上單片耦合,這樣我們就可以大規(guī)模地構(gòu)建演示器,并確定它是否確實(shí)是一種可行的技術(shù)。”
Rozen在IBM的團(tuán)隊(duì)正在努力實(shí)現(xiàn)這一可制造性。與此同時,他們創(chuàng)造了一種軟件工具,允許用戶使用不同的模擬人工智能設(shè)備(包括ECRAM)來實(shí)際訓(xùn)練神經(jīng)網(wǎng)絡(luò)并評估其性能。
-
內(nèi)存
+關(guān)注
關(guān)注
9文章
3210瀏覽量
76376 -
AI
+關(guān)注
關(guān)注
91文章
39793瀏覽量
301443
原文標(biāo)題:使用化學(xué)物質(zhì)進(jìn)行計算可使AI速度更快
文章出處:【微信號:IEEE_China,微信公眾號:IEEE電氣電子工程師】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
使用化學(xué)物質(zhì)進(jìn)行計算可使AI速度更快
評論