在廣義上，計(jì)算的歷史是對(duì)理想系統(tǒng)架構(gòu)的不斷搜索。在過(guò)去的幾十年中，系統(tǒng)架構(gòu)師不斷地從集中式配置中來(lái)回移動(dòng)，其中計(jì)算資源位于遠(yuǎn)離用戶的分布式體系結(jié)構(gòu)中，其中處理資源更靠近個(gè)人用戶。

早期的系統(tǒng)使用高度集中式的模型來(lái)向遍布企業(yè)的用戶提供增加的計(jì)算能力和存儲(chǔ)能力。在20世紀(jì)80年代和90年代，這些集中式架構(gòu)讓位給低成本PC的興起和LAN的出現(xiàn)，然后因特網(wǎng)連接起來(lái)。在這個(gè)新的模型中，計(jì)算任務(wù)越來(lái)越多地委托給個(gè)人PC。

隨著筆記本電腦、平板電腦和智能手機(jī)的興起，這種高度分布式的架構(gòu)最終演變成了移動(dòng)性。但是隨著計(jì)算需求的增加，系統(tǒng)架構(gòu)師開(kāi)始將任務(wù)移動(dòng)到云，在那里他們可以利用其幾乎無(wú)限的計(jì)算和存儲(chǔ)資源，高可靠性和低成本。因此，近年來(lái)，組織開(kāi)始轉(zhuǎn)向圍繞云構(gòu)建的更加集中的方法。例如，智能手機(jī)把所有的東西都送回云中進(jìn)行處理和存儲(chǔ)。當(dāng)需要數(shù)據(jù)時(shí)，然后將其返回到設(shè)備。

因此，云是當(dāng)今企業(yè)進(jìn)行高級(jí)計(jì)算和分析的地方。公司使用云來(lái)運(yùn)行像Oracle那樣的企業(yè)級(jí)應(yīng)用程序，然后使用PC來(lái)解釋和分析結(jié)果。隨著企業(yè)采用機(jī)器學(xué)習(xí)技術(shù)并采用更高水平的人工智能，云計(jì)算資源可能會(huì)在每個(gè)組織中扮演越來(lái)越重要的角色。今天，云計(jì)算提供了強(qiáng)大的優(yōu)勢(shì)。它允許組織簡(jiǎn)化資本支出，并管理與IT基礎(chǔ)設(shè)施相關(guān)的運(yùn)營(yíng)和維護(hù)成本。每個(gè)智能工廠都需要這些資源來(lái)管理多個(gè)機(jī)器視覺(jué)系統(tǒng)，每個(gè)智能城市都需要云來(lái)協(xié)調(diào)管理交通模式的交通燈，并優(yōu)化數(shù)千個(gè)路燈的功率效率。

邊緣的人工智能

然而，并非所有的應(yīng)用程序都會(huì)從云中運(yùn)行。事實(shí)上，隨著設(shè)計(jì)師向邊緣運(yùn)行的應(yīng)用程序增加越來(lái)越高的智能水平，他們將需要更快速地響應(yīng)不斷變化的環(huán)境條件。例如，當(dāng)一輛自主車進(jìn)入一個(gè)智能城市時(shí)，它就迫不及待地與云溝通，以確定交通燈是紅色時(shí)是否停車。它必須立即采取行動(dòng)。類似地，當(dāng)智能家居中的安全系統(tǒng)檢測(cè)到房屋內(nèi)的移動(dòng)時(shí)，它必須依靠其設(shè)備上的資源來(lái)檢測(cè)該移動(dòng)是否是闖入房屋的竊賊或只是家庭狗。

這需要獨(dú)立和快速地做出決定，將定義一類新的邊緣智能設(shè)備。使用諸如語(yǔ)音或面部識(shí)別等技術(shù)，這些新設(shè)備將能夠在環(huán)境變化的情況下定制它們的功能。并且，通過(guò)應(yīng)用機(jī)器學(xué)習(xí)和人工智能技術(shù)，這些設(shè)備將能夠基于不斷收集的數(shù)據(jù)來(lái)學(xué)習(xí)和改變它們的操作。

但是，它們?nèi)绾闻c云工作，將大大不同于專門使用云來(lái)處理和存儲(chǔ)的智能系統(tǒng)。機(jī)器學(xué)習(xí)通常涉及兩種類型的計(jì)算工作負(fù)載。在訓(xùn)練中，系統(tǒng)從現(xiàn)有數(shù)據(jù)中學(xué)習(xí)新的能力。例如，系統(tǒng)通過(guò)收集和分析數(shù)以千計(jì)的人臉圖像來(lái)學(xué)習(xí)面部識(shí)別能力。因此，訓(xùn)練是計(jì)算密集型的，并且需要能夠處理大量數(shù)據(jù)的硬件。第二種類型的工作量，推斷，通過(guò)識(shí)別模式和執(zhí)行任務(wù)，將系統(tǒng)的能力應(yīng)用到新的數(shù)據(jù)。這允許系統(tǒng)隨著時(shí)間的推移學(xué)習(xí)并增加他們的智能，他們運(yùn)行的時(shí)間越長(zhǎng)。在邊緣上運(yùn)行的系統(tǒng)不可能在云上進(jìn)行推理。相反，他們需要利用車載計(jì)算資源來(lái)不斷擴(kuò)展他們的智能。

這個(gè)市場(chǎng)機(jī)會(huì)的范圍很難夸大。潛在的應(yīng)用范圍從消費(fèi)者應(yīng)用，如智能電視，可以感覺(jué)到當(dāng)用戶離開(kāi)房間并自動(dòng)關(guān)機(jī)，下一代機(jī)器視覺(jué)解決方案的目標(biāo)是在未來(lái)的智能工廠。顯然，邊緣計(jì)算解決方案最熱門的市場(chǎng)之一是汽車行業(yè)。汽車從一個(gè)主要機(jī)械設(shè)備迅速發(fā)展到一個(gè)日益電子化的平臺(tái)，推動(dòng)了這一轉(zhuǎn)變。這一過(guò)程始于娛樂(lè)系統(tǒng)從無(wú)線電和磁帶平臺(tái)向高度復(fù)雜的信息娛樂(lè)系統(tǒng)的快速演變。它一直伴隨著先進(jìn)的駕駛員輔助系統(tǒng)（ADAS）的出現(xiàn)，旨在提高安全性。例如，研究和市場(chǎng)公司的分析師現(xiàn)在預(yù)測(cè)，ADAS市場(chǎng)將在2016和2021年間以10.44%的復(fù)合年增長(zhǎng)率增長(zhǎng)。

移動(dòng)市場(chǎng)的最新進(jìn)展有助于加速這種變化。智能手機(jī)為汽車帶來(lái)了新的功能和應(yīng)用，移動(dòng)處理器和標(biāo)準(zhǔn)化的MIPI接口的發(fā)展有助于降低將這些能力整合到汽車中的成本。如今，先進(jìn)的汽車娛樂(lè)系統(tǒng)提供信息和娛樂(lè)，而ADAS解決方案帶來(lái)了廣泛的安全功能，包括自動(dòng)制動(dòng)、車道檢測(cè)、盲點(diǎn)檢測(cè)和自動(dòng)平行停車功能。

為了使這成為可能，今天的汽車將越來(lái)越多的視覺(jué)系統(tǒng)集成到汽車內(nèi)，以監(jiān)控汽車內(nèi)部的駕駛員以及道路狀況。這些嵌入式視覺(jué)系統(tǒng)跟蹤駕駛員的頭部和身體移動(dòng)以指示困倦或分心，以及擴(kuò)大的外部攝像機(jī)數(shù)量以支持自動(dòng)停車和倒車輔助、盲點(diǎn)檢測(cè)、交通標(biāo)志監(jiān)視和避碰。車道偏離預(yù)警系統(tǒng)等新的應(yīng)用將視頻輸入與車道檢測(cè)算法相結(jié)合，以確定車輛在道路上的位置。因此，汽車制造商正在整合每輛車的許多攝像頭。為了建立這些新的ADAS能力，設(shè)計(jì)者預(yù)期他們將需要面向前方的攝像機(jī)，用于緊急制動(dòng)、車道檢測(cè)、行人檢測(cè)和交通標(biāo)志識(shí)別以及側(cè)向和后向攝像機(jī)，以支持盲點(diǎn)檢測(cè)、泊車輔助和交叉交通警報(bào)F。法令。

在制造這些系統(tǒng)時(shí)，汽車制造商面臨的一個(gè)限制是有限的I/O。通常，處理器今天具有兩個(gè)相機(jī)接口。然而，許多ADAS系統(tǒng)需要多達(dá)八個(gè)相機(jī)以滿足圖像質(zhì)量要求。理想情況下，設(shè)計(jì)者可以使用一種解決方案，使它們能夠協(xié)同處理來(lái)自多個(gè)攝像機(jī)的多個(gè)視頻流，或者在將數(shù)據(jù)傳遞給應(yīng)用程序PRO之前對(duì)攝像機(jī)輸入執(zhí)行各種圖像處理功能。

上面的框圖描述了一個(gè)開(kāi)發(fā)者如何使用一個(gè)ECP5 FPGA來(lái)生成一個(gè)鳥(niǎo)瞰子系統(tǒng)（見(jiàn)下文），之前使用多ARM處理器來(lái)實(shí)現(xiàn)。

歷史上，設(shè)計(jì)者使用單個(gè)處理器來(lái)驅(qū)動(dòng)每個(gè)顯示器。現(xiàn)在設(shè)計(jì)者可以使用單個(gè)FPGA來(lái)替換多個(gè)處理器，聚集來(lái)自每個(gè)相機(jī)的所有傳入數(shù)據(jù)，將圖像拼接在一起，執(zhí)行前處理和后處理，并將圖像發(fā)送到系統(tǒng)處理器，如下所示：

一個(gè)典型的鳥(niǎo)瞰圖從多個(gè)相機(jī)的數(shù)據(jù)聚集。

這些新的視覺(jué)和傳感器能力為自主汽車的引入奠定了基礎(chǔ)。例如，凱迪拉克今年將推出超級(jí)巡航，這是業(yè)界第一個(gè)免提駕駛應(yīng)用之一。這種新技術(shù)承諾通過(guò)連續(xù)地分析駕駛員和道路，使駕駛員更安全，而精密激光雷達(dá)數(shù)據(jù)庫(kù)提供道路細(xì)節(jié)和先進(jìn)的攝像機(jī)、傳感器和GPS實(shí)時(shí)地對(duì)動(dòng)態(tài)道路狀況作出反應(yīng)。

智能工廠

在工業(yè)領(lǐng)域，AI和邊緣應(yīng)用有望在智能工廠的發(fā)展中發(fā)揮越來(lái)越重要的作用。在2011率先提出的工業(yè)4模式的推動(dòng)下，下一代智能工廠將將先進(jìn)的機(jī)器人技術(shù)、機(jī)器學(xué)習(xí)技術(shù)應(yīng)用于軟件服務(wù)和工業(yè)物聯(lián)網(wǎng)（IIOT），以提高組織和最大化生產(chǎn)率。

雖然工業(yè)1.0標(biāo)志著將水和蒸汽動(dòng)力機(jī)械引入制造業(yè)，但工業(yè)2反映了由制造商的計(jì)算機(jī)和自動(dòng)化集成定義的電力大規(guī)模生產(chǎn)技術(shù)的運(yùn)動(dòng)。即將到來(lái)的工業(yè)4模型將引入網(wǎng)絡(luò)物理系統(tǒng)制造，以監(jiān)控智能工廠中的物理過(guò)程，并利用人工智能資源進(jìn)行分散決策。通過(guò)引入諸如大數(shù)據(jù)和分析的組件、IT和IOT的融合、機(jī)器人技術(shù)的最新進(jìn)展和數(shù)字供應(yīng)鏈的演進(jìn)，這一演進(jìn)將推動(dòng)該行業(yè)的數(shù)字化轉(zhuǎn)型。此外，通過(guò)不斷地與人類和操作員進(jìn)行通信，這些物理系統(tǒng)將成為IIOT的一部分。

智能工業(yè)4.0工廠如何與當(dāng)前工廠不同？它將提供幾乎通用的互操作性和更高級(jí)別的機(jī)器、設(shè)備、傳感器和人之間的通信。其次，它將高度重視信息透明，其中系統(tǒng)通過(guò)傳感器數(shù)據(jù)向上下文化的信息創(chuàng)建物理世界的虛擬副本。此外，智能工廠的決策將高度分散，允許網(wǎng)絡(luò)物理系統(tǒng)盡可能自主地運(yùn)行。最后，該工廠的新發(fā)展將具有高水平的技術(shù)援助，其中系統(tǒng)將能夠幫助彼此解決問(wèn)題、做出決定并幫助人類完成可能是高度困難或危險(xiǎn)的任務(wù)。

不同需要

設(shè)計(jì)師需要把這些新的人工智能能力帶到什么邊緣？傳統(tǒng)上，在數(shù)據(jù)中心采用深度學(xué)習(xí)技術(shù)的設(shè)計(jì)者嚴(yán)重依賴高性能GPU以滿足苛刻的計(jì)算需求。設(shè)計(jì)師把AI推向邊緣并沒(méi)有那么奢侈。他們需要計(jì)算效率高的系統(tǒng)，可以滿足精確的目標(biāo)，同時(shí)符合嚴(yán)格的功率和足跡限制，通常發(fā)現(xiàn)在消費(fèi)市場(chǎng)。

無(wú)論開(kāi)發(fā)人員正在為智能家居構(gòu)建安全系統(tǒng)、智能城市的自動(dòng)化照明系統(tǒng)、為下一代汽車提供自主駕駛解決方案或?yàn)橹悄芄S提供智能視覺(jué)系統(tǒng)，它們都需要能夠處理高清的性價(jià)比高的計(jì)算引擎。實(shí)時(shí)數(shù)字視頻流。他們還需要高容量固態(tài)存儲(chǔ)，智能相機(jī)或傳感器和先進(jìn)的分析算法。

通常，這些系統(tǒng)中的處理器必須執(zhí)行從圖像采集和透鏡校正到圖像處理和分割的各種任務(wù)。在一些應(yīng)用中，設(shè)計(jì)者可以使用各種各樣的處理器類型，從微控制器、圖形處理單元（GPU）和數(shù)字信號(hào)處理器（DSP）到現(xiàn)場(chǎng)可編程門陣列（FPGA）和特定于應(yīng)用程序的標(biāo)準(zhǔn)處理器（ASSP）以滿足這些要求。每個(gè)處理器體系結(jié)構(gòu)都有其獨(dú)特的優(yōu)點(diǎn)和缺點(diǎn)。在某些情況下，設(shè)計(jì)者將多個(gè)處理器類型組合成異構(gòu)計(jì)算環(huán)境。在其他情況下，它們可以將多個(gè)處理器類型集成到單個(gè)設(shè)備中。

需求越來(lái)越多的解決方案，利用應(yīng)用程序支持和制造規(guī)模與移動(dòng)處理器和MIPI兼容的傳感器和顯示器，并采用人工智能，機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)，使智能的邊緣。神經(jīng)網(wǎng)絡(luò)在機(jī)器學(xué)習(xí)中的應(yīng)用，如圖像識(shí)別，可能需要兆字節(jié)的數(shù)據(jù)和計(jì)算能力的外顯子來(lái)開(kāi)發(fā)數(shù)據(jù)結(jié)構(gòu)并分配權(quán)重。因此，對(duì)于這些應(yīng)用程序的機(jī)器學(xué)習(xí)通常在數(shù)據(jù)中心發(fā)生并不奇怪。

一旦模型被訓(xùn)練并移植到嵌入式系統(tǒng)，設(shè)備就必須更快更有效地做出決策。在大多數(shù)情況下，設(shè)計(jì)者需要一種將計(jì)算效率與低功率和小足跡結(jié)合起來(lái)的解決方案。

業(yè)界普遍認(rèn)可機(jī)器學(xué)習(xí)需要高度專業(yè)化的硬件加速。但是根據(jù)任務(wù)的不同，需求是很大的。例如，用于訓(xùn)練應(yīng)用的硬件設(shè)計(jì)者專注于使用32位浮點(diǎn)運(yùn)算的高精確度的高水平計(jì)算。在網(wǎng)絡(luò)邊緣，執(zhí)行推理的設(shè)計(jì)者更傾向于犧牲精度，以提高處理速度或降低功耗。在某些情況下，使用定點(diǎn)計(jì)算的應(yīng)用可以在消耗更少功率的情況下向浮點(diǎn)應(yīng)用提供幾乎相同的推理精度。

在這種情況下，使用ECP5 FPGA實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)加速器在邊緣上的面部識(shí)別應(yīng)用。

在某些情況下，支持這種類型的設(shè)計(jì)靈活性的處理器在這些類型的應(yīng)用中提供了明顯的優(yōu)點(diǎn)。例如，F(xiàn)PGAs將廣泛的嵌入式DSP資源和高度并行的架構(gòu)結(jié)合起來(lái)，在功率、足跡和成本方面具有競(jìng)爭(zhēng)優(yōu)勢(shì)。點(diǎn)陣半導(dǎo)體的ECP5 FPGA中的DSP塊可以使用浮點(diǎn)數(shù)學(xué)來(lái)計(jì)算比GPU更少的功率/ MHz的定點(diǎn)數(shù)學(xué)。

同時(shí)，神經(jīng)網(wǎng)絡(luò)的產(chǎn)業(yè)研究也在不斷推進(jìn)。最近，格子半導(dǎo)體與高性能軟核處理器的開(kāi)發(fā)人員合作，為嵌入式應(yīng)用開(kāi)發(fā)基于神經(jīng)網(wǎng)絡(luò)的推理解決方案，用于面部檢測(cè)應(yīng)用。解決方案是在小于5000的LUTS的ICE405K FPGA。使用開(kāi)源的RISC-V處理器與定制加速器，這種設(shè)置大大降低了功耗，同時(shí)縮短了響應(yīng)時(shí)間。

結(jié)論

邊緣計(jì)算給基于人工智能的系統(tǒng)的開(kāi)發(fā)者帶來(lái)了下一個(gè)巨大的挑戰(zhàn)。隨著設(shè)計(jì)師增加更高層次的智能，需求將增長(zhǎng)的解決方案，可以更快速和準(zhǔn)確地響應(yīng)不斷變化的環(huán)境條件。尋找開(kāi)發(fā)人員采用廣泛的技術(shù)來(lái)滿足這一新的需求。