物聯(lián)網(wǎng) （IoT） 被吹捧為下一次工業(yè)革命，它具有普遍的連接性和它可以產(chǎn)生的洞察力，為查看和管理物理世界提供了一個新的數(shù)字鏡頭。但除了物聯(lián)網(wǎng)預期的切實流程效率和生活質(zhì)量改善之外，它也是人類歷史上最偉大成就的墊腳石：人工智能 （AI）。

在許多方面，人工智能和物聯(lián)網(wǎng)的技術進步是交織在一起的。物聯(lián)網(wǎng)將提供推動我們數(shù)據(jù)驅動型經(jīng)濟的信息，而人工智能則是消耗它的引擎。盡管這兩種范式仍處于起步階段，但每個范式的成功都取決于另一個：如果沒有自動處理大型異構數(shù)據(jù)集的機制，物聯(lián)網(wǎng)永遠無法發(fā)揮其潛力，就像人工智能在沒有大量數(shù)據(jù)的情況下無法擴展一樣。

然而，與許多其他支持物聯(lián)網(wǎng)的技術一樣，人工智能研究和開發(fā)在很大程度上僅限于 IT 領域，因為卷積神經(jīng)網(wǎng)絡 （CNN）、隱馬爾可夫模型 （HMM）、自然語言處理和其他學科的復雜性在機器學習算法和深度神經(jīng)網(wǎng)絡 （DNN） 的創(chuàng)建需要通常只能在數(shù)據(jù)中心規(guī)模上訪問的存儲和計算資源。同樣，編程方法已針對 IT 開發(fā)人員進行了調(diào)整， R、Python、SQL、Excel、RapidMiner、Hadoop、Spark 和 Tableau 等工具是AI 領域的數(shù)據(jù)分析師和計算機科學家最廣泛使用的工具（圖 1 ）。

【圖1 | 2016 年對數(shù)據(jù)分析師和科學家的民意調(diào)查顯示，R、Python 和 SQL 作為機器學習的軟件工具和庫繼續(xù)受到關注。圖表由 KDnuggets 提供。］

物理/數(shù)字交換中人工智能和數(shù)據(jù)收集之間的差距是物聯(lián)網(wǎng)的常見并發(fā)癥，物聯(lián)網(wǎng)剛剛開始推動 IT 和運營技術 （OT） 的集成。盡管如此，這是一個必須彌合的鴻溝。

嵌入式物聯(lián)網(wǎng)的人工智能

2014 年，隨著NVIDIA Jetson TK1 平臺的發(fā)布，AI 最早涉足 OT 領域之一。基于Tegra K1 片上系統(tǒng) （SoC）及其 192 核 Kepler GPU 和四核 ARM Cortex-A15， Jetson TK1 為計算機視覺、機器人和汽車應用帶來了數(shù)據(jù)中心級的計算性能，同時也為嵌入式工程師提供了CUDA 深度神經(jīng)網(wǎng)絡 （cuDNN） 庫的開發(fā)平臺。cuDNN 原語支持 DNN 訓練和推理所需的激活函數(shù)、前向和后向卷積、歸一化和張量變換等操作，并且該技術與 Jetson TK1 的 10 W 功率包絡相結合意味著深度學習框架，如Caffe和Torch可以在較小的 OT 設備上訪問和執(zhí)行。

今天，這一基礎工作得到了擴展，作為 Jetson TK1 的繼任者，Jetson TX1 模塊系統(tǒng) （SoM）包含 256 個 CUDA 內(nèi)核、一個 ARM Cortex-A57 CPU，并且能夠提供 1 TFLOPS 的性能。機器學習工具和庫也可以通過NVIDIA JetPack 2.3得到更廣泛的使用，它是原始 cuDNN 庫集的演變，通過打包CUDA Toolkit 8開發(fā)環(huán)境以使用 C 和 C++ 構建基于 GPU 的應用程序，更好地服務于 OT 開發(fā)人員；相機和 Video4Linux2 （V4L2） API；TensorRT推理引擎和 cuDNN 5.1，它現(xiàn)在支持循環(huán)神經(jīng)網(wǎng)絡 （RNN） 和長短期記憶 （LSTM） 網(wǎng)絡。如圖 2 所示，NVIDIA 基準測試表明，Jetson TX1 和 JetPack 2.3 中的優(yōu)化與運行類似深度學習工作負載的 CPU 相比，能效提高了 20 倍，同時在典型負載下仍保持 8-10 W 功耗TX1。

【圖2 | 在運行類似的 GoogleNet 深度學習推理負載時，NVIDIA Jetson TX1 可以提供高達英特爾酷睿 i7 處理器 20 倍的能效。］

從未停止學習

隨著物聯(lián)網(wǎng)為人工智能革命產(chǎn)生數(shù)據(jù)，監(jiān)控機器學習技術進展的需求也變得很明顯。這不僅可以確保具有學習能力的智能系統(tǒng)正確地追求其教育目標，而且還可以確保人類開發(fā)人員正確地改進機器學習所基于的底層框架和庫，以實現(xiàn)預期目標。

審核編輯：郭婷