據(jù)麥姆斯咨詢介紹，神經(jīng)形態(tài)視覺傳感是一種受生物啟發(fā)的相機(jī)，可以捕捉場景中的活動，降低數(shù)據(jù)冗余和延遲。這些基于事件的傳感器使機(jī)械的自主性更加接近現(xiàn)實(shí)，并在工業(yè)自動化、消費(fèi)電子和自動駕駛車輛等領(lǐng)域基于視覺的高速應(yīng)用中找到用武之地。

“為什么說基于事件的視覺傳感器是神經(jīng)形態(tài)的？因?yàn)槊總€像素都是一個神經(jīng)元，把人工智能引入像素邊緣完全有意義。”Yole首席分析師Pierre Cambou稱。

最近幾個月，沉寂多年的神經(jīng)形態(tài)視覺傳感產(chǎn)業(yè)似乎又重新回到了人們的視野。去年11月，三星為其移動和平板電腦應(yīng)用的動態(tài)視覺傳感器（Dynamic Vision Sensor， DVS）技術(shù)提交了商標(biāo)申請。Pierre Cambou說，“這算是一個驚喜！因?yàn)槿亲畛跏袌龌膭討B(tài)視覺傳感器主要用于汽車高級駕駛輔助系統(tǒng)（ADAS）。”

2019年12月，索尼悄悄收購了總部位于蘇黎世的Insightness公司，該公司的視覺傳感器即使在運(yùn)動中也可以在幾毫秒內(nèi)實(shí)現(xiàn)運(yùn)動檢測。2020年2月，總部位于巴黎的Prophesee公司在完成2800萬美元額外融資后不久，和索尼一起在美國舊金山舉行的國際固態(tài)電路會議（International Solid-State Circuits Conference）上聯(lián)合宣布，他們已經(jīng)開發(fā)出一種基于事件的堆疊式圖像傳感器。

Prophesee基于事件的圖像傳感器的成像圖片

神經(jīng)形態(tài)傳感起源于1991年蘇黎世聯(lián)邦理工學(xué)院（ETH Zurich）神經(jīng)信息學(xué)研究所Misha Mahowald開發(fā)的“硅視網(wǎng)膜”技術(shù)。Mahowald解釋稱，“模仿人類視網(wǎng)膜，這種‘硅視網(wǎng)膜’通過從圖像中減去平均強(qiáng)度水平，只報(bào)告空間和時間變化，從而減少了帶寬。”這種靈感推動了動態(tài)視覺傳感器背后的概念，使蘇黎世聯(lián)邦理工學(xué)院成為該技術(shù)的創(chuàng)新中心，并孕育了像Prophesee、Insightness等無數(shù)初創(chuàng)企業(yè)。瑞士創(chuàng)新公司iniVation也是其中之一。

iniVation開發(fā)的DAVIS346

這家總部位于蘇黎世的初創(chuàng)公司由基于事件的視覺先驅(qū)們于2015年創(chuàng)建，他們開發(fā)了一種動態(tài)視覺平臺，結(jié)合硬件和軟件用于高性能機(jī)器視覺系統(tǒng)。iniVation的神經(jīng)形態(tài)動態(tài)視覺傳感器芯片DAVIS346模仿了人類視網(wǎng)膜的特性。只有在發(fā)生局部像素級的變化時才會進(jìn)行傳輸，以微秒級的分辨率生成事件流，與傳統(tǒng)的視覺傳感器相當(dāng)，但數(shù)據(jù)量卻少得多。該公司聲稱，由于采用本地化處理，其功耗（最多減少90%）、數(shù)據(jù)存儲和計(jì)算要求顯著降低，同時還提高了傳感器的動態(tài)范圍（高于120 dB）。

iniVation通過300個客戶的網(wǎng)絡(luò)，與賓夕法尼亞大學(xué)（University of Pennsylvania）、蘇黎世大學(xué)（University of Zurich）和美國國防高級研究計(jì)劃局（DARPA）的研究人員合作開發(fā)了IBM的TrueNorth仿人腦芯片。這項(xiàng)研究的重點(diǎn)是無人駕駛飛機(jī)的自主飛行。

暢想智能制造

現(xiàn)代制造業(yè)正在發(fā)生一場無聲的革命。機(jī)器自主和自動化相輔相成，大量制造自動化的發(fā)展背后是機(jī)器視覺。與簡單的傳感器不同，機(jī)器視覺傳感器會產(chǎn)生大量的數(shù)據(jù)以識別有缺陷的系統(tǒng)，了解它們的缺陷并進(jìn)行快速干預(yù)。其結(jié)果是節(jié)約的成本和提高的生產(chǎn)率。

iniVation稱，其動態(tài)視覺平臺適用于工業(yè)視覺，可實(shí)現(xiàn)基礎(chǔ)設(shè)施的高速3D掃描，用于預(yù)測性維護(hù)、高速生產(chǎn)檢測、顆粒、熒光成像顯微鏡以及人體運(yùn)動分析。換句話說，它能夠以高速度、高精度和高一致性執(zhí)行普通或復(fù)雜的重復(fù)任務(wù)。

“我們花了一段時間才找到一個好的策略。”iniVation首席執(zhí)行官Kynan Eng說，“很多公司可以提供高速計(jì)數(shù)，由于傳統(tǒng)相機(jī)可以實(shí)現(xiàn)每秒1000幀甚至更高，所以高速計(jì)數(shù)并不是根本。如果應(yīng)用不需要即時響應(yīng)，那么，使用我們的傳感器就沒有什么意義。”

對于iniVation傳感器應(yīng)用，關(guān)鍵的是延遲而不是數(shù)據(jù)吞吐量，iniVation的傳感器具有快速響應(yīng)時間，例如一個不斷移動執(zhí)行任務(wù)的機(jī)器人，它需要實(shí)時調(diào)整它的路徑。如果調(diào)整得越快，它就能移動得越快，同時檢測自己錯誤的速度也越快。

“在我看來，工業(yè)視覺是一個相對低風(fēng)險(xiǎn)，但市場規(guī)模也低的市場。”Eng說。因此，風(fēng)險(xiǎn)投資基金很少有興趣。著眼于有機(jī)增長，iniVation正在考慮規(guī)模經(jīng)濟(jì)。通過2019年與三星（Samsung）的合作，iniVation從制造和芯片銷售轉(zhuǎn)向?qū)C(jī)器視覺行業(yè)銷售相機(jī)。“你可以賣100美元的芯片，也可以把它裝在相機(jī)里，賣1000美元的相機(jī)。”Yole分析師Cambou指出。

通過轉(zhuǎn)向系統(tǒng)級產(chǎn)品，iniVation正在往高價(jià)值鏈上拓展。

“我們認(rèn)識到，只成為一家芯片公司沒有意義。”Eng說，“我們可以融資10億美元，但這仍不足以自己制造芯片。客戶一直問我們，為什么我們的相機(jī)價(jià)格昂貴，如何才能讓它們便宜。與三星合作，就是問題的答案。”

對產(chǎn)品質(zhì)量的高要求，推動了食品、包裝、消費(fèi)電子、航空航天以及汽車行業(yè)的機(jī)器視覺。Eng說，iniVation的目標(biāo)是進(jìn)入更大的市場。

移動領(lǐng)域空間巨大

基于事件的相機(jī)只傳輸強(qiáng)度的變化。它們不會受到運(yùn)動模糊的影響，延遲時間約為微秒級。加上很高的動態(tài)范圍和很低的功耗，使基于事件的相機(jī)非常適合虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)應(yīng)用（VR/AR）。“這是一個巨大的潛在市場，不過，現(xiàn)在還不知道什么時候會真正起量。現(xiàn)在，它是一個利基市場。”Eng說。

基于事件的相機(jī)也可以應(yīng)用于移動設(shè)備。“重點(diǎn)在于說服手機(jī)制造商在手機(jī)背面再增加一顆傳感器。”Eng說。最初，iniVation和其它基于事件相機(jī)的廠商只生產(chǎn)使用DVS像素的相機(jī)。Eng補(bǔ)充說：“這些特性有利于應(yīng)對高速變化，但在很多情況下，人們只是想自拍或者給美食拍照。幾年前，我們開始開發(fā)一種兼具基于事件像素和正常像素的傳感器。用戶可以拍攝普通照片，進(jìn)行普通處理，但對于特定的用例，用戶會用到我們基于事件的像素。”

因此，手機(jī)制造商不必做出非此即彼的決定，并能維持同樣水平的價(jià)格。

Cambou說：“手機(jī)市場或?qū)⒃?021年~2022年前后開啟。現(xiàn)在，我們已經(jīng)在華為手機(jī)的背面看到了5顆攝像頭。除了‘永久在線’的神經(jīng)形態(tài)相機(jī)，我想不出再下一顆攝像頭還有誰。有人會說‘多光譜相機(jī)’，但我認(rèn)為更多的可能是讓智能手機(jī)始終保持‘意識’。基于事件的相機(jī)可以實(shí)現(xiàn)無接觸的交互，如鎖定和解鎖手機(jī)。”

與Prophesee和索尼的合作一樣，和三星的合作為iniVation在智能手機(jī)市場上提供了一條新的發(fā)展道路。Cambou說，一如既往，這是一個如何落地的問題。“永久在線意識已經(jīng)提出好多年了，但現(xiàn)在的問題是如何實(shí)現(xiàn)它。這取決于應(yīng)用，以及在客戶體驗(yàn)方面可以提供哪些改善。”

為汽車提供智慧雙眼

基于事件的相機(jī)很節(jié)能，因?yàn)橄袼鼗顒游⒉蛔愕溃粚τ凇办o默時”的像素幾乎不需要能量。這是一個賣點(diǎn)，因?yàn)樽詣玉{駛汽車正從內(nèi)燃機(jī)向電動引擎過渡。對于汽車公司來說，功耗比最初認(rèn)為的要重要得多。Eng說，“在目前的電動汽車設(shè)計(jì)中，如果一輛汽車以恒定速度使用4 kW的總功率預(yù)算，那么其中一半會用于推動汽車，另一半則要用于計(jì)算。計(jì)算環(huán)節(jié)省下來的每一瓦特電能，都可以延長汽車的續(xù)航里程，或者使用更小的電池。”

iniVation的動態(tài)視覺傳感器平臺能夠在惡劣的照明條件下實(shí)現(xiàn)車輛量距、高速即時定位和地圖繪制（SLAM）以及自動駕駛輔助。“隨著處理技術(shù)的發(fā)展，自動駕駛汽車的前景將會越來越明朗。”Eng說，“我們將提供一種混合傳感器，它將同時具備幀速和基于事件的傳感能力，這樣汽車制造商就可以繼續(xù)使用它們已經(jīng)投入數(shù)十億美元開發(fā)的產(chǎn)品。”

傳感器是解鎖自動駕駛的關(guān)鍵。Cambou表示，這些傳感器會產(chǎn)生大量的數(shù)據(jù)，系統(tǒng)將嚴(yán)重受限于處理能力。更多的攝像頭和隨之而來的更多數(shù)據(jù)意味著“計(jì)算爆炸”。一個解決方案是提高數(shù)據(jù)質(zhì)量。Cambou 補(bǔ)充說，“真的要解決自動駕駛問題，就需要更多類型的傳感數(shù)據(jù)，例如激光雷達(dá)、熱像儀和高光譜相機(jī)等。我認(rèn)為汽車廠商也應(yīng)該考慮基于事件的相機(jī)。”

神經(jīng)形態(tài)工程的潛力仍有待開發(fā)。Yole稱，到2029年，神經(jīng)形態(tài)半導(dǎo)體、傳感和計(jì)算將成長為71億美元規(guī)模的市場。如果在未來4~5年內(nèi)可以解決所有技術(shù)問題，神經(jīng)形態(tài)計(jì)算市場將從2024年的6900萬美元增長到2029年的50億美元，以及2034年的213億美元。神經(jīng)形態(tài)傳感市場將從2024年的3400萬美元增長到2029年的20億美元，以及2034年的47億美元。