提到人工智能,最先想到的參數(shù)往往是算力。無論是傳統(tǒng)的CPU、GPU還是FPGA或ASIC加速卡,都在竭盡所能地想要成為“算力怪獸”,滿足機器學(xué)習(xí)中大規(guī)模數(shù)據(jù)集的處理和云端AI服務(wù)在計算上的需求。
然而在目前的AI世界里,硬件都基于傳統(tǒng)的數(shù)字電子架構(gòu),雖然已經(jīng)有不少廠商在準(zhǔn)備跳出馮諾依曼架構(gòu)的限制,比如開發(fā)神經(jīng)形態(tài)加速器等。但它們并沒有跳出電子傳輸速率上的限制,因此不僅處理器主頻上仍然受限,要想實現(xiàn)百億億級乃至千億億級的算力,也只能從增加系統(tǒng)規(guī)模上入手。
在這種困境下,從光子學(xué)出發(fā)的方案正在不斷涌現(xiàn),硅光技術(shù)讓CMOS制造高集成的光子芯片成為了可能。光子芯片基本都是基于馬赫-曾德干涉儀(MZI)制作的,用光信號來進行線性計算,不僅沒有復(fù)雜的邏輯門,在傳輸上的能耗也遠小于電信號。
不少研究人員都在近年發(fā)表了在光學(xué)計算的突破,也有少數(shù)公司在這個方向發(fā)力,打算以全新的架構(gòu)來跳出這些限制,讓AI與神經(jīng)網(wǎng)絡(luò)運算更進一步,甚至是打破傳統(tǒng)的摩爾定律。
Lightmatter

Envise / Lightmatter
專注于AI光子芯片的初創(chuàng)公司Lightmatter在今年推出了Envise,首個通用AI光子加速器,也是去年在Hot chips上發(fā)布的Mars原型芯片的改進版。該加速器結(jié)合了光電系統(tǒng),從他們的芯片構(gòu)造中也可以看出,除了光子核以外,還包含了圖形處理器、RISC核心和SRAM。Envise支持INT8、INT16和bfloat16三種數(shù)字格式,也支持ReLU、GELU和sigmoid等神經(jīng)網(wǎng)絡(luò)中常見的激活函數(shù)。

Envise服務(wù)器構(gòu)造 / Lightmatter
據(jù)Lightmatter給出的數(shù)據(jù),以16個Envise芯片和2個AMD EPYC 7002芯片組成的4-U服務(wù)器,僅有3kW的功耗,在Resnet-50模型的測試結(jié)果中,推理速度卻是英偉達DGX-A100的四倍,而DGX-A100的最高功耗可是有6.5kW。
為了解決擴展性的問題,Lightmatter也在推出了自己的高速互聯(lián)技術(shù)Passage。Passage是一種晶圓級可編程的光子互聯(lián)技術(shù),讓異構(gòu)芯片以大帶寬和高能效互相通信,支持CPU、內(nèi)存和專用加速器。Lightmatter宣稱Passage比現(xiàn)有的芯片互聯(lián)方案要快上百倍,芯片間最大的傳輸延遲僅有2ns。
Lightelligence
除了國外的Lightmatter以外,國內(nèi)也有一家專注于光子芯片的公司Lightelligence(曦智科技)。成立一年后,曦智科技就在2019年正式發(fā)布了全球首款光子芯片原型板卡,處理MINIST數(shù)據(jù)集的準(zhǔn)確率達到97%以上。據(jù)了解,曦智科技目前主要的技術(shù)方案專注于光計算和光傳輸,以高集成度的光子芯片去輔助現(xiàn)有的數(shù)字電子芯片,支持到更快的機器學(xué)習(xí)運算,數(shù)字電子芯片負(fù)責(zé)簡單的邏輯運算,實現(xiàn)高算力的同時做到低功耗。
曦智科技CEO沈亦晨在去年的EmTech China大會上表示,光子芯片技術(shù)可以更快實現(xiàn)產(chǎn)業(yè)化,因為光子芯片對制程的依賴不強,因此甚至可以用28nm的芯片做到7nm芯片的性能。從這點來看,光子芯片或許也是一個擺脫制程受限的發(fā)力方向。根據(jù)其官網(wǎng)的消息,曦智科技目前正在與早期客戶緊密合作,預(yù)計在2022年開始光學(xué)AI加速的正式部署。
光子卷積加速器
今年1月,來自澳大利亞的幾名研究人員在《自然》雜志上發(fā)表了一篇名為《用于光學(xué)神經(jīng)網(wǎng)絡(luò)的11 TOPS光學(xué)卷積加速器》的文章。卷積神經(jīng)網(wǎng)絡(luò)(CNN)啟發(fā)自生物視覺皮層系統(tǒng),這種神經(jīng)網(wǎng)絡(luò)提取了原始數(shù)據(jù)的層次特征,極大降低了網(wǎng)絡(luò)參數(shù)的復(fù)雜度,提高了預(yù)測的準(zhǔn)確性。CNN已經(jīng)在計算機視覺、語音識別和醫(yī)療診斷中獲得了廣泛的應(yīng)用,但仍被電子架構(gòu)的性能給限制。
這篇文章中的研究人員展示了一個通用的光學(xué)向量卷積加速器。該加速器集成了克爾光頻梳提供的大量波長通道,實現(xiàn)了11 TOPS的運算速度,也可以同時生成8-bit分辨率25萬像素圖像的卷積,足以用于人臉圖像識別。研究人員還利用相同的硬件,依次組成了一個具有10個輸出神經(jīng)元的深度光學(xué)CNN,完成了500張MINIST手寫數(shù)字圖片的識別,準(zhǔn)確率達到88%以上。
結(jié)語
除了以上提到的幾家公司和研究外,市場上還有不少開始攻克光子芯片的公司,比如受到比爾蓋茨投資的初創(chuàng)企業(yè)Luminous Computing,不過其CEO Marcus Gomez在2019年的一次采訪中提到,其產(chǎn)品預(yù)計要在2022年至2025年的區(qū)間內(nèi)才會面世。英特爾也在今年公布了兩份相關(guān)專利,其中之一便是將光子加速器與Xeon核心異構(gòu)集成。
目前光子芯片依然在走光電結(jié)合的方向,光學(xué)計算主要是為神經(jīng)網(wǎng)絡(luò)等應(yīng)用起到輔助加速。這是因為受到光學(xué)元件的限制,尤其是馬MZI的布線特點,要想實現(xiàn)MZI互聯(lián)的話,就很難兼顧尺寸了,所以全光子的方案在擴展性上還是要差上一籌。且我們平常接觸到的多為數(shù)字信號,少不了光電轉(zhuǎn)換的過程,因此光子芯片的成功歸根結(jié)底還是需要光電工程師的共同努力。至于通用計算什么時候能用上光子芯片,仍是一個未知數(shù)。
然而在目前的AI世界里,硬件都基于傳統(tǒng)的數(shù)字電子架構(gòu),雖然已經(jīng)有不少廠商在準(zhǔn)備跳出馮諾依曼架構(gòu)的限制,比如開發(fā)神經(jīng)形態(tài)加速器等。但它們并沒有跳出電子傳輸速率上的限制,因此不僅處理器主頻上仍然受限,要想實現(xiàn)百億億級乃至千億億級的算力,也只能從增加系統(tǒng)規(guī)模上入手。
在這種困境下,從光子學(xué)出發(fā)的方案正在不斷涌現(xiàn),硅光技術(shù)讓CMOS制造高集成的光子芯片成為了可能。光子芯片基本都是基于馬赫-曾德干涉儀(MZI)制作的,用光信號來進行線性計算,不僅沒有復(fù)雜的邏輯門,在傳輸上的能耗也遠小于電信號。
不少研究人員都在近年發(fā)表了在光學(xué)計算的突破,也有少數(shù)公司在這個方向發(fā)力,打算以全新的架構(gòu)來跳出這些限制,讓AI與神經(jīng)網(wǎng)絡(luò)運算更進一步,甚至是打破傳統(tǒng)的摩爾定律。
Lightmatter

Envise / Lightmatter
專注于AI光子芯片的初創(chuàng)公司Lightmatter在今年推出了Envise,首個通用AI光子加速器,也是去年在Hot chips上發(fā)布的Mars原型芯片的改進版。該加速器結(jié)合了光電系統(tǒng),從他們的芯片構(gòu)造中也可以看出,除了光子核以外,還包含了圖形處理器、RISC核心和SRAM。Envise支持INT8、INT16和bfloat16三種數(shù)字格式,也支持ReLU、GELU和sigmoid等神經(jīng)網(wǎng)絡(luò)中常見的激活函數(shù)。

Envise服務(wù)器構(gòu)造 / Lightmatter
據(jù)Lightmatter給出的數(shù)據(jù),以16個Envise芯片和2個AMD EPYC 7002芯片組成的4-U服務(wù)器,僅有3kW的功耗,在Resnet-50模型的測試結(jié)果中,推理速度卻是英偉達DGX-A100的四倍,而DGX-A100的最高功耗可是有6.5kW。
為了解決擴展性的問題,Lightmatter也在推出了自己的高速互聯(lián)技術(shù)Passage。Passage是一種晶圓級可編程的光子互聯(lián)技術(shù),讓異構(gòu)芯片以大帶寬和高能效互相通信,支持CPU、內(nèi)存和專用加速器。Lightmatter宣稱Passage比現(xiàn)有的芯片互聯(lián)方案要快上百倍,芯片間最大的傳輸延遲僅有2ns。
Lightelligence
除了國外的Lightmatter以外,國內(nèi)也有一家專注于光子芯片的公司Lightelligence(曦智科技)。成立一年后,曦智科技就在2019年正式發(fā)布了全球首款光子芯片原型板卡,處理MINIST數(shù)據(jù)集的準(zhǔn)確率達到97%以上。據(jù)了解,曦智科技目前主要的技術(shù)方案專注于光計算和光傳輸,以高集成度的光子芯片去輔助現(xiàn)有的數(shù)字電子芯片,支持到更快的機器學(xué)習(xí)運算,數(shù)字電子芯片負(fù)責(zé)簡單的邏輯運算,實現(xiàn)高算力的同時做到低功耗。
曦智科技CEO沈亦晨在去年的EmTech China大會上表示,光子芯片技術(shù)可以更快實現(xiàn)產(chǎn)業(yè)化,因為光子芯片對制程的依賴不強,因此甚至可以用28nm的芯片做到7nm芯片的性能。從這點來看,光子芯片或許也是一個擺脫制程受限的發(fā)力方向。根據(jù)其官網(wǎng)的消息,曦智科技目前正在與早期客戶緊密合作,預(yù)計在2022年開始光學(xué)AI加速的正式部署。
光子卷積加速器
今年1月,來自澳大利亞的幾名研究人員在《自然》雜志上發(fā)表了一篇名為《用于光學(xué)神經(jīng)網(wǎng)絡(luò)的11 TOPS光學(xué)卷積加速器》的文章。卷積神經(jīng)網(wǎng)絡(luò)(CNN)啟發(fā)自生物視覺皮層系統(tǒng),這種神經(jīng)網(wǎng)絡(luò)提取了原始數(shù)據(jù)的層次特征,極大降低了網(wǎng)絡(luò)參數(shù)的復(fù)雜度,提高了預(yù)測的準(zhǔn)確性。CNN已經(jīng)在計算機視覺、語音識別和醫(yī)療診斷中獲得了廣泛的應(yīng)用,但仍被電子架構(gòu)的性能給限制。
這篇文章中的研究人員展示了一個通用的光學(xué)向量卷積加速器。該加速器集成了克爾光頻梳提供的大量波長通道,實現(xiàn)了11 TOPS的運算速度,也可以同時生成8-bit分辨率25萬像素圖像的卷積,足以用于人臉圖像識別。研究人員還利用相同的硬件,依次組成了一個具有10個輸出神經(jīng)元的深度光學(xué)CNN,完成了500張MINIST手寫數(shù)字圖片的識別,準(zhǔn)確率達到88%以上。
結(jié)語
除了以上提到的幾家公司和研究外,市場上還有不少開始攻克光子芯片的公司,比如受到比爾蓋茨投資的初創(chuàng)企業(yè)Luminous Computing,不過其CEO Marcus Gomez在2019年的一次采訪中提到,其產(chǎn)品預(yù)計要在2022年至2025年的區(qū)間內(nèi)才會面世。英特爾也在今年公布了兩份相關(guān)專利,其中之一便是將光子加速器與Xeon核心異構(gòu)集成。
目前光子芯片依然在走光電結(jié)合的方向,光學(xué)計算主要是為神經(jīng)網(wǎng)絡(luò)等應(yīng)用起到輔助加速。這是因為受到光學(xué)元件的限制,尤其是馬MZI的布線特點,要想實現(xiàn)MZI互聯(lián)的話,就很難兼顧尺寸了,所以全光子的方案在擴展性上還是要差上一籌。且我們平常接觸到的多為數(shù)字信號,少不了光電轉(zhuǎn)換的過程,因此光子芯片的成功歸根結(jié)底還是需要光電工程師的共同努力。至于通用計算什么時候能用上光子芯片,仍是一個未知數(shù)。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
芯片
+關(guān)注
關(guān)注
463文章
54010瀏覽量
466151 -
摩爾定律
+關(guān)注
關(guān)注
4文章
640瀏覽量
80917 -
光子芯片
+關(guān)注
關(guān)注
3文章
110瀏覽量
25264
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
陀螺形體材料,突破光子芯片瓶頸
電子發(fā)燒友網(wǎng)綜合報道 在人工智能、物聯(lián)網(wǎng)與大數(shù)據(jù)技術(shù)驅(qū)動下,全球數(shù)據(jù)量正以指數(shù)級速度增長。傳統(tǒng)電子芯片受限于電子傳輸?shù)奈锢砥款i,已難以滿足未來計算對速度與能效的嚴(yán)苛需求。在此背景下,以光子為信息載體
Chiplet,改變了芯片
1965年,英特爾聯(lián)合創(chuàng)始人戈登·摩爾提出了“摩爾定律”。半個多世紀(jì)以來,這一定律推動了集成電路(IC)性能的提升和成本的降低,并成為現(xiàn)代數(shù)字技術(shù)的基礎(chǔ)。摩爾定律指出,半導(dǎo)體
芯片封裝的功能、等級以及分類
在摩爾定律趨近物理極限、功率器件制程仍停留在百納米節(jié)點的背景下,芯片“尺寸縮小”與“性能提升”之間的矛盾愈發(fā)尖銳。
從材料到集成:光子芯片技術(shù)創(chuàng)新,突破算力瓶頸
電子發(fā)燒友網(wǎng)報道(文/李彎彎)在全球科技競爭的浪潮中,光子芯片作為突破電子芯片性能瓶頸的核心技術(shù),正逐漸成為各方矚目的焦點。它以光波作為信息載體,通過集成激光器、調(diào)制器、探測器等光電器
當(dāng)摩爾定律 “踩剎車” ,三星 、AP、普迪飛共話半導(dǎo)體制造新變革新機遇
,揭示行業(yè)正處于從“晶體管密度驅(qū)動”向“系統(tǒng)級創(chuàng)新”轉(zhuǎn)型的關(guān)鍵節(jié)點。隨著摩爾定律放緩、供應(yīng)鏈分散化政策推進,一場融合制造技術(shù)革新與供應(yīng)鏈數(shù)字化的產(chǎn)業(yè)變革正在上演。
AI狂飆, FPGA會掉隊嗎? (上)
,這與摩爾定律的速度高度相似,而通用GPU的算力增長更是驚人,達到了八年1000倍。「GPU算力八年1000倍增長」過去我做FAE的時候,客戶經(jīng)常會問,“你們芯片
Chiplet與3D封裝技術(shù):后摩爾時代的芯片革命與屹立芯創(chuàng)的良率保障
在摩爾定律逐漸放緩的背景下,Chiplet(小芯片)技術(shù)和3D封裝成為半導(dǎo)體行業(yè)突破性能與集成度瓶頸的關(guān)鍵路徑。然而,隨著芯片集成度的提高,氣泡缺陷成為影響封裝良率的核心挑戰(zhàn)之一。
晶心科技:摩爾定律放緩,RISC-V在高性能計算的重要性突顯
運算還是快速高頻處理計算數(shù)據(jù),或是超級電腦,只要設(shè)計或計算系統(tǒng)符合三項之一即可稱之為HPC。 摩爾定律走過數(shù)十年,從1970年代開始,世界領(lǐng)導(dǎo)廠商建立晶圓廠、提供制程工藝,在28nm之前取得非常大的成功。然而28nm之后摩爾定律在接近物理極限之前遇到大量的困
突破!華為先進封裝技術(shù)揭開神秘面紗
在半導(dǎo)體行業(yè),芯片制造工藝的發(fā)展逐漸逼近物理極限,摩爾定律的推進愈發(fā)艱難。在此背景下,先進封裝技術(shù)成為提升芯片性能、實現(xiàn)系統(tǒng)集成的關(guān)鍵路徑,成為全球科技企業(yè)角逐的新戰(zhàn)場。近期,華為的先進封裝技術(shù)
關(guān)鍵技術(shù)突破!國內(nèi)首個光子芯片中試線成功下線首片晶圓
酸鋰調(diào)制器芯片的規(guī)模化量產(chǎn),該芯片的關(guān)鍵技術(shù)指標(biāo)達到國際先進水平。 光子芯片關(guān)鍵技術(shù)突破 光子
跨越摩爾定律,新思科技掩膜方案憑何改寫3nm以下芯片游戲規(guī)則
。 然而,隨著摩爾定律逼近物理極限,傳統(tǒng)掩模設(shè)計方法面臨巨大挑戰(zhàn),以2nm制程為例,掩膜版上的每個圖形特征尺寸僅為頭發(fā)絲直徑的五萬分之一,任何微小誤差都可能導(dǎo)致芯片失效。對此,新思科技(Synopsys)推出制造解決方案,尤其是
電力電子中的“摩爾定律”(1)
本文是第二屆電力電子科普征文大賽的獲獎作品,來自上海科技大學(xué)劉賾源的投稿。著名的摩爾定律中指出,集成電路每過一定時間就會性能翻倍,成本減半。那么電力電子當(dāng)中是否也存在著摩爾定律呢?1965年,英特爾
玻璃基板在芯片封裝中的應(yīng)用
自集成電路誕生以來,摩爾定律一直是其發(fā)展的核心驅(qū)動力。根據(jù)摩爾定律,集成電路單位面積上的晶體管數(shù)量每18到24個月翻一番,性能也隨之提升。然而,隨著晶體管尺寸的不斷縮小,制造工藝的復(fù)雜度和成本急劇
震驚!半導(dǎo)體玻璃芯片基板實現(xiàn)自動激光植球突破
在半導(dǎo)體行業(yè)“超越摩爾定律”的探索中,玻璃基板與激光植球技術(shù)的結(jié)合,不僅是材料與工藝的創(chuàng)新,更是整個產(chǎn)業(yè)鏈協(xié)同突破的縮影。未來,隨著5G、AI、汽車電子等需求的爆發(fā),激光錫球焊接機這一技術(shù)組合或?qū)⒊蔀橹袊雽?dǎo)體高端制造的重要競爭力。?
瑞沃微先進封裝:突破摩爾定律枷鎖,助力半導(dǎo)體新飛躍
在半導(dǎo)體行業(yè)的發(fā)展歷程中,技術(shù)創(chuàng)新始終是推動行業(yè)前進的核心動力。深圳瑞沃微半導(dǎo)體憑借其先進封裝技術(shù),用強大的實力和創(chuàng)新理念,立志將半導(dǎo)體行業(yè)邁向新的高度。 回溯半導(dǎo)體行業(yè)的發(fā)展軌跡,摩爾定律無疑是一個重要的里程碑
光子芯片,突破摩爾定律的蹊徑?
評論