人工智能開始從云端轉移到邊緣。人工智能研究現(xiàn)在提供了一個有趣的可能性,即使用數(shù)千小時的強大計算資源來訓練和完善神經(jīng)網(wǎng)絡,然后能夠在廉價的低功耗設備上運行。這使得邊緣AI設備成為可能,即使在離線時也可以運行,因此網(wǎng)絡連接不是必需的。這種方法利用了進化式神經(jīng)網(wǎng)絡訓練技術(如對抗神經(jīng)網(wǎng)絡)的強大功能。
對能量和存儲使用有限制的神經(jīng)網(wǎng)絡訓練過程自然會創(chuàng)建一個神經(jīng)網(wǎng)絡,該神經(jīng)網(wǎng)絡將其有限的資源集中在更有用的路徑上,同時修剪不太關鍵的區(qū)域。此過程非常適合創(chuàng)建在低功耗、低成本設備上運行的網(wǎng)絡。隨后,神經(jīng)網(wǎng)絡壓縮技術可以進一步壓縮經(jīng)過訓練的網(wǎng)絡,將內(nèi)存需求降低多達90%,同時幾乎不會影響性能 - 類似的技術也有助于減少計算負載。
神經(jīng)網(wǎng)絡壓縮可以像降低變量的精度一樣簡單,但也包括分析、重新組織和修剪網(wǎng)絡。令人驚訝的結果是,巨大的計算能力(也許也可以被描述為“智能和經(jīng)驗”)可能會被提煉成一種在廉價、低功耗設備上運行的形式。(事實上,從廣義上講,我們可以將這種方法與數(shù)十億年的對抗性進化相提并論,這種進化最終將智能生命封裝在微小的DNA鏈中)。
如果你認為人工智能意味著一種學習和改進的人類式智能,那么這種邊緣計算策略的目標似乎有悖常理。這是因為許多簡單的邊緣應用程序最好由在部署后不會顯著改變或改進的設備提供服務 - 我們只是希望它們能夠可靠且可預測地執(zhí)行其任務。
對于低成本邊緣設備和物聯(lián)網(wǎng)設備的開發(fā)者來說,AI工具包在不斷擴展,價格在不斷下降。新產(chǎn)品的范圍從支持AI的FPGA到神經(jīng)網(wǎng)絡加速器,如Redpine的QueSSence智能互聯(lián)平臺,以及研揚科技UP AI Core X系列,該系列為典型的低功耗計算和連接模塊添加了AI加速功能,非常適合物聯(lián)網(wǎng)邊緣設備。
人工智能使革命性的新產(chǎn)品成為可能
想象一下,添加AI如何增強日常設備和物聯(lián)網(wǎng)。板載低成本AI可以改變最普通的設備——例如,為開關添加可靠的語音識別以實現(xiàn)免提操作——但讓我們也來看看一些更復雜的潛在應用:
配備人工智能的安全攝像頭可以快速學會識別熟悉的面孔、寵物等,并在看到意想不到的人或動物時觸發(fā)警報。即使與電源和網(wǎng)絡斷開連接,也可以決定是否發(fā)出警報,這顯然是安全設備的加分項!通過機器學習技術,這種智能安全攝像頭的作用可以遠遠超出傳統(tǒng)的自動化攝像頭,例如,它可以識別并警告火災,泄漏,結構故障(如屋頂或窗戶損壞)以及各種其他危險和事件。
訓練有素的發(fā)動機監(jiān)控系統(tǒng)可以使用其車載AI功能,通過集成傳感器讀數(shù),分析振動模式和其他線索來檢測異常并優(yōu)化性能。這種來自廣泛傳感器融合的分析超出了傳統(tǒng)算法的能力,在某些情況下可能會超過人類工程師的性能。本地化AI在沒有網(wǎng)絡連接的情況下工作的能力允許超低延遲響應,以實時微調(diào)性能,并且在網(wǎng)絡連接困難的情況下,由于遠程位置或射頻干擾,以及在移動應用(如車輛和飛機)中,這是一個巨大的優(yōu)勢。
機器中的幽靈:問題和解決方案
人工智能可能是不可預測的,并且在我們沒有機會測試的邊緣情況下可能會出錯。考慮緩解此問題的方法,例如為用戶提供回退模式。這可能會讓他們關閉“智能”人工智能,并允許設備回退到依賴更簡單的老式算法,因此它仍然是功能性和有用的,盡管沒有先進的人工智能功能。此外,雖然車載智能是一個關鍵賣點,但開發(fā)人員仍然可以權衡何時在邊緣做出決策以及何時將其推回云端或請求人工指導的利弊(事實上,這種選擇本身可能由設備上的AI實時指導)。
啞設備即將變得智能
將強大的、預先訓練的人工智能包裝成低功耗、低成本設備的潛力為改造普通的商品設備、增加價值以及開發(fā)新產(chǎn)品和新市場提供了幾乎無限的機會。
審核編輯:郭婷
-
人工智能
+關注
關注
1817文章
50105瀏覽量
265540
發(fā)布評論請先 登錄
華為發(fā)布AI容器技術Flex:ai,算力平均利用率提升30%
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的未來:提升算力還是智力
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+可期之變:從AI硬件到AI濕件
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+內(nèi)容總覽
【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》
最新人工智能硬件培訓AI基礎入門學習課程參考2025版(離線AI語音視覺識別篇)
全球各大品牌利用NVIDIA AI技術提升運營效率
小智AI移植到ESP32P4-Fucntion-EV-Board實機演示
海思SD3403邊緣計算AI數(shù)據(jù)訓練概述
AI眼鏡采用pogopin磁吸充電連接優(yōu)勢分析
利用AI獲得優(yōu)勢
評論