Hailo-8 DL 是一種專用的深度學習處理器，可為智能設備提供數據中心級計算機的性能。

似乎并不是很久以前人們對“云”到底是什么感到困惑。然后我們思考云是不是一個好主意，現在，我們大多數人都認為云的概念是理所當然的。

當然，云計算有很多好處，包括減少或消除企業購買昂貴設備以及構建和運營自己的數據中心的要求。還有一個事實是，云允許我們將大量資源投入到海量數據中，其處理的計算密集度令人難以置信。不幸的是，在延遲、可靠性（如果您失去連接）、隱私和安全性等方面也存在缺點（另請參閱“ 21 世紀安全與隱私的結合”）。

另一個考慮因素是必須在（互聯網）邊緣收集大量原始數據并將其饋送到云中。在許多情況下，更有意義的是在邊緣對數據進行預處理，以生成有用且可操作的信息，這些信息可以在邊緣使用，也可以饋送到云中進行聚合、存儲以及其他處理和分析。

由于所有這些，智能和分析正在以智能傳感器和更復雜的系統的形式從云端遷移到邊緣設備。

智能和分析正在遷移到邊緣設備。

遷移到邊緣的主要好處是更低的延遲、更低的功耗、更低的成本、更高的隱私（您的寶貴數據保留在本地）、更高的安全性（如果你做對了）和更高的可靠性（邊緣設備即使在失去與“母船”的聯系）。

像許多事情一樣，如果你說話快速并熱情地揮手，這一切聽起來都很棒，但實際上將智能和分析遷移到邊緣設備需要它們具有適當的處理能力。傳統的微控制器解決方案根本不具備處理能力，而 FPGA 和圖形處理單元 (GPU) 消耗過多的功率。

所需要的是從頭開始構建的一類新設備，以將云智能帶入嵌入式設備。許多公司正在努力從不同角度解決這個問題。Hailo是首批推出的公司之一，它的 Hailo-8 DL處理器用于邊緣設備。

?

Hailo-8 深度學習處理器（來源：Hailo.ai）

Hailo-8 DL 是一種專用的深度學習處理器，它賦予智能設備以數據中心級計算機的性能，以最小的功耗、尺寸和成本實時運行。

自包含（無需外部 DRAM）Hailo-8 DL 提供高性能（每秒 26 兆次運算，或 TOPS）、高效率（3 TOPS/W）、高靈活性（可通過全面的 SDK 完全編程），和替代部署方案（獨立或協處理器模式）。

這可能是您觀看此視頻的好時機，該視頻展示了使用 Hailo-8 DL 處理器進行分類的演示。

一方面，上面顯示的分類任務非常令人興奮；另一方面，它僅使用業界常見的 224 x 224 分辨率（盡管 Halio-8 DL 確實表現出高性能）。只是為了提高[賭注，看看這個檢測視頻- 與其他需要降低分辨率以滿足實時要求的解決方案不同，Hailo-8 DL 無需降低分辨率即可使用全高清分辨率。使用更高的分辨率可以從更遠的地方檢測到相同的對象。

我發現所有這些非常有趣的一個方面是結構定義的數據流架構的概念。我們從使用類似 Google 的 TensorFlow 描述的神經網絡架構開始，它會自動逐層映射到 Hailo 處理器的控制（綠色）、內存（橙色）和計算（藍色）資源，如下圖所示：

上面的插圖當然是一個粗略的簡化，但它可以傳達整體的想法。Hailo 全面的 SDK 擁有從訓練模型到部署的全棧解決方案，具有自動數值轉換和準確的分析功能。

另一個讓我吃驚的是，Hailo 公司成立于 2017 年，但從成立到擁有功能齊全的芯片僅用了兩年時間，目前正在向第一批客戶部署。

該部署的一部分包括 Hailo-8 快速通道計劃，該計劃具有適用于 Hailo-8 設備的開發人員套件：

?

Hailo-8 評估板（來源：Hailo.ai）

此開發人員套件可供選定的客戶使用，包括上面顯示的評估板、SDK 許可證、行業標準的神經網絡示例、現場培訓和支持。借助該套件，客戶將能夠開發、制作原型并評估基于 Hailo-8 DL 處理器的產品的性能。

就個人而言，我認為我們已準備好進入一個勇敢的新世界，在這個世界中，我們被智能設備所包圍，其目標是讓我們的生活不那么令人沮喪，更充實（我盡量不去糾纏于人工智能世界末日的可能性）。你呢？你對未來可能會發生什么感到興奮或害怕？