各位可能都聽(tīng)過(guò)第四次工業(yè)革命是來(lái)自萬(wàn)物聯(lián)網(wǎng)（Internet of Things，IoT），包括實(shí)體、虛擬、與生物體，也一定聽(tīng)過(guò)最近幾年內(nèi)許多人工智能 （Artificial Intelligence，AI） 的重大突破與各方面的應(yīng)用，IoT 是從 1999 年就發(fā)明的詞，AI 的發(fā)展更超過(guò)一甲子，然而這兩者的結(jié)合才是下個(gè)新產(chǎn)業(yè)機(jī)會(huì)的大浪，正要開(kāi)始。

什么是 AIoT 與邊緣計(jì)算

相關(guān)用語(yǔ)包括 AIoT 以及邊緣計(jì)算 （Edge Computing），我們先看看他們的定義：

IoT – 藉由各處的無(wú)線傳輸裝置，通過(guò)感測(cè)器蒐集各種的數(shù)據(jù)，再將數(shù)據(jù)傳輸?shù)介l道或電腦之中，連接到網(wǎng)路上，達(dá)到萬(wàn)物連上網(wǎng)的效果，如何使這些數(shù)據(jù)產(chǎn)生應(yīng)用層面更是相當(dāng)重要的議題。

AI – 基于自我學(xué)習(xí)為基底，藉由大量的數(shù)據(jù)作為學(xué)習(xí)依據(jù)，通過(guò)建立一層層神經(jīng)網(wǎng)路架構(gòu)，進(jìn)行反覆的學(xué)習(xí)與修正，并佈署最終訓(xùn)練完的權(quán)重值，去進(jìn)行預(yù)測(cè)與判斷。

通過(guò) AI 與 IoT 兩者整合，相輔相成。藉由 AI 從邊緣感測(cè)器蒐集的大量數(shù)據(jù)萃取價(jià)值，再控制本地的系統(tǒng)就是 AIoT 的基本概念，例如在工廠產(chǎn)線中，通過(guò)視覺(jué)感測(cè)器收集數(shù)據(jù)，經(jīng)由 AI 計(jì)算判斷分類(lèi)，再由機(jī)器手臂執(zhí)行檢選。沒(méi)有AI 來(lái)處理與利用數(shù)據(jù)，IoT 是沒(méi)有意義的。

AI 與 IoT 兩個(gè)領(lǐng)域延續(xù)過(guò)去投資熱度，今年仍是最熱的標(biāo)的，遠(yuǎn)領(lǐng)先區(qū)塊鏈 （Blockchain）。

邊緣計(jì)算的必要性

過(guò)去這 AI 主要在云端計(jì)算，難免受制于帶寬與延遲的限制，現(xiàn)在的趨勢(shì)逐漸走向所謂的邊緣計(jì)算，根據(jù)邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟 （ECC） 與工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟 （AII） 聯(lián)合發(fā)布的邊緣計(jì)算參考架構(gòu) 2.0（2017）：邊緣計(jì)算是在靠近物或數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣側(cè)，融合網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用核心能力的分布式開(kāi)放平臺(tái)，就近提供邊緣智能服務(wù)，滿足行業(yè)數(shù)字化在敏捷聯(lián)接、實(shí)時(shí)業(yè)務(wù)、數(shù)據(jù)優(yōu)化、應(yīng)用智能、安全與隱私保護(hù)等方面的關(guān)鍵需求。

許多應(yīng)用程序?qū)ρ舆t不敏感，不需要大量的就近計(jì)算或存儲(chǔ)資源，因此理論上它們可以在集中式的云中運(yùn)行，但是對(duì)帶寬和計(jì)算資源有要求的應(yīng)用，使用邊緣計(jì)算將成為更有效的方法，例如視頻監(jiān)控、物聯(lián)網(wǎng)網(wǎng)關(guān) （Gateways）、使用臉部識(shí)別的門(mén)禁、車(chē)牌識(shí)別。而且廠商不需在每個(gè)有客戶的區(qū)域都要部署服務(wù)器。

有些實(shí)時(shí)應(yīng)用程序是無(wú)法承受超過(guò)幾毫秒的延遲，諸如 AR/VR、車(chē)聯(lián)網(wǎng)、遠(yuǎn)程醫(yī)療、觸覺(jué)互聯(lián)網(wǎng)、工業(yè)4.0 和智慧城市等。需在應(yīng)用情境當(dāng)場(chǎng)形成閉環(huán)自動(dòng)化，來(lái)維持高可用性與安全性，靠近用戶的計(jì)算和緩存成為了必需品。

還有許多場(chǎng)所網(wǎng)絡(luò)連接受限、不可靠或不可預(yù)知。這些場(chǎng)所包括交通運(yùn)輸工具 （飛機(jī)、巴士、船舶），采礦作業(yè)區(qū) （石油鉆井平臺(tái)、管道、礦山），電力基礎(chǔ)設(shè)施 （風(fēng)力發(fā)電場(chǎng)、太陽(yáng)能發(fā)電廠），衛(wèi)星通信，海上船只 （從漁船到油船），這些偏遠(yuǎn)和惡劣的環(huán)境中，邊緣計(jì)算讓位于邊緣的裝置根據(jù)實(shí)時(shí)數(shù)據(jù)自治，應(yīng)用在預(yù)測(cè)性維護(hù)上，可避免零件機(jī)臺(tái)故障造成當(dāng)機(jī) （有些情形甚至造成死傷），應(yīng)用在能效管理上，可降低成本與提升可靠性。

AI + IoT 開(kāi)始成為熱錢(qián)追逐標(biāo)的

結(jié)合 AI 的 IoT 新創(chuàng)公司，在去年吸引可觀的資金，從企業(yè)與私有基金取得總共 22 億美金，并購(gòu)活動(dòng)也十分熱絡(luò)，代表產(chǎn)業(yè)的新興熱點(diǎn)崛起。

位于芝加哥的 UptakeTechnologies，去年取得總共 2.5 億美金的 C 輪與 D 輪資金，成為獨(dú)角獸，服務(wù)于工業(yè)物聯(lián)網(wǎng)-- 石油天然氣產(chǎn)業(yè)、采礦、農(nóng)業(yè)、航空、營(yíng)建、制造、鐵路、貨運(yùn)車(chē)隊(duì)、綠色能源與智慧電網(wǎng)。

另一個(gè)獨(dú)角獸 – C3 IoT –除了部分以上提到的領(lǐng)域外，也著力于智慧城市、公用基礎(chǔ)建設(shè)、金融服務(wù)、健康管理、零售與通訊。去年拿到一個(gè)億美金。

專(zhuān)注于物聯(lián)網(wǎng)無(wú)線解決方案的Silicon Labs（亦稱(chēng)“芯科科技”）公司也通過(guò)收購(gòu) Sigma Designs 的 Z-Wave業(yè)務(wù)和。

自從 2015年，邊緣計(jì)算進(jìn)入到 Gartner 的 Hype Cycle （技術(shù)成熟曲線）。Gartner 預(yù)測(cè)在 2022 年之前 80% 的企業(yè)級(jí) IoT 將配備布署 AI，目前只有 10%。

半導(dǎo)體芯片在 AI 產(chǎn)業(yè)的關(guān)鍵地位

半導(dǎo)體芯片在使能 AI 產(chǎn)業(yè)上處于核心地位，需要處理巨量數(shù)據(jù)的機(jī)器學(xué)習(xí) （Machine Learning） 要求極大的算力與特大儲(chǔ)存容量，對(duì)應(yīng)的是對(duì)高端處理器與更大更省電的存儲(chǔ)器的需求。目前這兩個(gè)關(guān)鍵技術(shù)，仍以美國(guó)居全球領(lǐng)先地位，以中國(guó)投入的追趕力道最大。

根據(jù) JP Morgan 預(yù)估，AI 芯片市場(chǎng)營(yíng)收，在 2022 年前將以年均復(fù)合增長(zhǎng)率 59% 增長(zhǎng)，相對(duì)于整個(gè)半導(dǎo)體市場(chǎng)增長(zhǎng)率僅有 5-6% ［1］。自從網(wǎng)絡(luò)泡沫以來(lái)，風(fēng)投對(duì)半導(dǎo)體業(yè)的投資興趣逐漸走低，現(xiàn)在，AI 改變了這個(gè)趨勢(shì)。

半導(dǎo)體在 AI 運(yùn)作的主要三個(gè)階段都具有關(guān)鍵支持地位，三階段分別為：

數(shù)據(jù)生成與收集：可能通過(guò)智慧手機(jī)與 IoT 各種終端傳感裝置；

以收集的數(shù)據(jù)對(duì)算法進(jìn)行訓(xùn)練：訓(xùn)練是指通過(guò)大量的數(shù)據(jù)樣本，代入神經(jīng)網(wǎng)絡(luò)模型運(yùn)算并反復(fù)迭代，來(lái)獲得各神經(jīng)元的權(quán)重參數(shù)的過(guò)程。這階段需處理海量數(shù)據(jù)，最耗計(jì)算資源，必需在云端進(jìn)行，要求盡可能高的算力。大家可能都聽(tīng)過(guò) Nvidia 靠繪圖處理器 （GPU） 在近幾年大放光芒，它提供的就是訓(xùn)練芯片，支持深度學(xué)習(xí) （Deep Learning） 技術(shù)的深度神經(jīng)網(wǎng)絡(luò) （Deep Neural Network） 建模計(jì)算，得力于 GPU 的大型矩陣平行運(yùn)算助力，讓以前不實(shí)際、超過(guò)百層的神經(jīng)網(wǎng)絡(luò)計(jì)算成為合理可能，所以 AI 訓(xùn)練芯片表現(xiàn)大大提升。

根據(jù)訓(xùn)練好的算法對(duì)新數(shù)據(jù)進(jìn)行推斷預(yù)測(cè) （inference）：推斷是指借助現(xiàn)有神經(jīng)網(wǎng)絡(luò)模型進(jìn)行運(yùn)算，利用新的輸入數(shù)據(jù)來(lái)一次性獲得正確結(jié)論的過(guò)程。推斷過(guò)程對(duì)響應(yīng)速度一般有較高要求，因此會(huì)采用 AI 芯片 （搭載訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)模型） 進(jìn)行加速。這階段可能發(fā)生在云端或邊緣，然而如同前面所述，為了反應(yīng)速度或安全性等因素，將推斷放在邊緣終端逐漸成為趨勢(shì)，所以大量的各種終端裝置都將會(huì)加上推斷芯片來(lái)建立智能。邊緣裝置芯片只需內(nèi)建訓(xùn)練好的模型算法，可隨時(shí)對(duì)新收集數(shù)據(jù)進(jìn)行反應(yīng)與自我管理。在連網(wǎng)時(shí)，可將邊緣數(shù)據(jù)傳回云端，持續(xù)不斷修正與優(yōu)化模型，然后再回傳更新的模型給邊緣。

邊緣計(jì)算應(yīng)用落地是硬件與系統(tǒng)商的大機(jī)會(huì)

根據(jù) CrunchBase 的 2018 AI 市場(chǎng)報(bào)告，Amazon、Google、Microsoft 等巨頭推出的 AI as a Service 開(kāi)發(fā)框架，加上有能力自制高端芯片，已經(jīng)讓機(jī)器學(xué)習(xí)的新創(chuàng)公司難以生存。這種云端企業(yè)級(jí) AI 需要數(shù)據(jù)中心級(jí)的大規(guī)模投資，提升每單位電力可帶來(lái)的計(jì)算量，門(mén)檻很高。

然而，善長(zhǎng)生產(chǎn)硬件、整合終端裝置制造供應(yīng)鏈的國(guó)家，卻有機(jī)會(huì)將 AI 推斷芯片置入終端，在邊緣計(jì)算的各種各樣應(yīng)用場(chǎng)景好好發(fā)揮。相比訓(xùn)練芯片追求算力，推斷芯片考慮的因素需要整體優(yōu)化：?jiǎn)挝还乃懔Γ瑫r(shí)延，成本等等（大多需極低耗電與低成本），所以垂直合作配合更為重要。難怪鴻海董事長(zhǎng)郭臺(tái)銘就說(shuō)：半導(dǎo)體我們自己一定會(huì)做。根據(jù) JP Morgan 的預(yù)估，邊緣 AI 應(yīng)用的半導(dǎo)體產(chǎn)值也將以比云端 AI 以更高的年均復(fù)合增長(zhǎng)率成長(zhǎng)。

但是硬件廠商需要提升自己的思維到服務(wù)提供者的高度，了解客戶與市場(chǎng)，才能完整掌握應(yīng)用情境，并以服務(wù)導(dǎo)向拉動(dòng)上下游供應(yīng)鏈充分合作，整合構(gòu)建創(chuàng)新的垂直行業(yè)解決方案。不僅是硬件廠商延伸成為整體服務(wù)提供者，甚至掌握 AI 演算法，以求勝出，軟件廠商為了做好智能終端，也發(fā)現(xiàn)必須掌握硬件設(shè)計(jì)與韌體，軟硬整合為必要。整個(gè)開(kāi)發(fā)與除錯(cuò)戰(zhàn)線比過(guò)去長(zhǎng)，而且需要跨領(lǐng)域知識(shí)。

PC 與 Mobile 時(shí)代，產(chǎn)品與技術(shù)規(guī)格比較一致，產(chǎn)品戰(zhàn)線大概就是分低、中、高階而已，但在接下來(lái)興起的 AI 加 IoT 時(shí)代 – 有人稱(chēng)為智聯(lián)網(wǎng)，智能終端的應(yīng)用卻可能非常多樣化，AI 的應(yīng)用場(chǎng)景碎片化，分散在許多流程環(huán)節(jié)里，有極大的創(chuàng)新空間，但要考慮的邏輯更復(fù)雜，需針對(duì)不同應(yīng)用需求在能耗、性能、或散熱等問(wèn)題進(jìn)行優(yōu)化。相比于互聯(lián)網(wǎng)時(shí)代，物聯(lián)網(wǎng)的通信協(xié)議更加多樣，碎片化嚴(yán)重。新的游戲規(guī)則與新的市場(chǎng)面貌正在成形中。

創(chuàng)新的目的 – 回歸價(jià)值創(chuàng)造

ARM 為了 AI 推斷算法優(yōu)化最前沿的 CPU 與 GPU IP 核，高通、聯(lián)發(fā)科、谷歌、Rockchip 在其處理器加上 DSP 計(jì)算核以強(qiáng)化原有視覺(jué)辯視計(jì)算與其它AI 計(jì)算，蘋(píng)果、Intel、NVIDIA 也紛紛推出附神經(jīng)網(wǎng)絡(luò)芯片以加速AI 計(jì)算，Lattice、Microsemi、 Intel 則利用 FPGA 處理 AI 計(jì)算，包括云端與邊緣。

安控監(jiān)視系統(tǒng)、汽車(chē)自動(dòng)煞車(chē)與駕駛系統(tǒng)、工廠自動(dòng)化設(shè)備與即時(shí)示警、家庭智慧音箱……，邊緣計(jì)算應(yīng)用的例子已經(jīng)不勝凡舉，并從原來(lái)視覺(jué)與語(yǔ)音辯視計(jì)算擴(kuò)大到其它 AI 計(jì)算，例如結(jié)合傳感器數(shù)據(jù)開(kāi)發(fā)新應(yīng)用。那些垂直市場(chǎng)與那些應(yīng)用最有商業(yè)價(jià)值，下回我們來(lái)看看 AI + IoT 在各種垂直應(yīng)用領(lǐng)域與情境的案例研討與價(jià)值分析。