電子發燒友網報道（文/黃晶晶）ABI研究數據表明，預計到2024年設備端的AI推理功能將覆蓋近60%的設備。要實現邊緣AI推理，FPGA具有自身的優勢。為此，萊迪思Lattice已經發布了系列面向邊緣計算的FPGA硬件和設計軟件解決方案，針對邊緣智能的萊迪思sensAI也更新到了4.1版本。最近，萊迪思半導體亞太區資深市場開拓經理林國松，就萊迪思最新的AI創新路線以及針對最新一代Lattice sensAI解決方案集合，包括如何輕松部署AI/ML應用及性能增強和新增的應用場景等進行了詳細分享。

Lattice不斷強化FPGA用于邊緣AI的優勢

由于網絡邊緣端對功耗的敏感度，以及對尺寸大小的嚴格要求，小封裝和低功耗的FPGA是非常合適的選擇，這也給了以低功耗著稱的萊迪思以拓展邊緣AI應用的巨大市場機會。據介紹，過去四年，萊迪思的總出貨量達到10億片以上，以出貨量來看位列全球第一。

林國松表示，Lattice的網絡邊緣AI可以實現從一毫瓦到低于一瓦的低功耗范圍，同時，我們有靈活的計算資源，FPGA可以做預處理、后處理、圖像處理、濾波以及性能拓展等等。
此外，LatticeFPGA內嵌的安全功能區域，可以實現更安全的使用場景。

FPGA的硬件可編程最大的特點還是實現加速和機器算法。由于AI的算法靈活多變、推陳出新，專用芯片的成本、功耗是不太可承受的，因此FPGA相對來說更適合來實現AI的計算。FPGA可以配合AI技術隨時為用戶提供最佳體驗。

從2012到2021年，AI分類模型創新的數量逐年遞增。此次Lattice新推出的sensAI 4.1將增加支持CetusPro-NX器件。該器件具有更高的容量，計算能力和功效也得到提高。Lattice推出了相應的開發板，即聲音和視覺機器學習板，提供支持這顆芯片的CNN Plus加速器，以及相應的sensAI Studio。

在此基礎上，還提供三個參考設計，即人員偵測、注意力追蹤和目標分類。同時，在智能家居、智慧城市、工廠、智能汽車等方面也可提供相對應的設計服務。



林國松解析，Lattice的一個訓練設計方法是，通過標準的Caffe、TensorFlow、TensorFlowLite、Keras等常用訓練網絡訓練完之后，再通過Lattice提供的神經網絡編譯器，編譯成相對應的可執行指令，這些指令最終會由Lattice的芯片所調取使用。

在硬件優化的設計方案中，可以看到，將AI的設計方案通過Lattice Radiant和DIAMOND結合之后，產生FPGA比特流，然后再把訓練后的模型錄進來，這樣產生一個類似于中央處理器的功能，而這里產生的量化的權重和指令更多指向于執行的代碼，這兩個結合之后，可以產生一個AI的體驗項目。



在軟件優化的設計方案中，Lattice專門提供了一個PROPEL軟件，便于大家對于整個內部結果的控制，能夠進行類似于C代碼的控制，而不是使用比較難以上手的FPGA的開發代碼，這樣的代碼便于初學者調用基本的指令進行控制。


最新推出的Lattice sensAI Studio，是為了解決訓練環境的應用場景應用軟件更新快，軟件和軟件之間的兼容性難題。Lattice提供的軟件預安裝到Container里，然后客戶只需要把這個Container直接移植到他們的電腦上，就可以在這個Container上執行相對應的訓練，這樣就幫客戶省去很多的精力和時間來配置電腦。

Lattice sensAI迎接下一代智能PC

PC是日間工作的最主要工具，下一代PC將聚焦在智能和感知，強大的協作能力和輕薄外形等方面。

LatticesensAI的智能和感知AI解決方案提供了用戶檢測、注意力追蹤、旁觀者檢測及面部取景功能。通過注意力追蹤可以延長電池壽命；旁觀者檢測可以模糊屏幕、保護用戶隱私數據，而面部取景也是很多協作式會議所需的場景。



與使用CPU來驅動AI應用的設備相比，采用sensAI開發，并在萊迪思FPGA上運行的AI計算設備的電池使用時間延長了28%。sensAI還支持現場軟件更新，從而保持AI算法的演進，還能讓OEM廠商靈活選擇不同的傳感器和SoC技術來適配他們的設備。



與ASIC相比，CrossLink-NX在性能和效率上都更加強勁。



值得一提的是，LatticesensAI符合道德和合理的AI設計考量。使用Lattice sensAI可以不把圖像傳給電腦，直接在硬件上處理。在常規的方式下，人臉信息置于后臺應用，用戶圖像信息有被侵害風險。而通過Lattice sensAI只會傳出一個結果，而不會傳輸圖像，因此能夠防止用戶的肖像權受到侵害。

此外，LatticesensAI設計使用多個公共數據集驗證模型，在系統用戶體驗驗證，覆蓋典型的使用場景。同時LatticesensAI專注于用戶體驗，針對不同的復雜場景進行壓力測試，包括燈光、場景及用戶面部和頭部穿戴的變化等，從而達到更佳的體驗。

將Lattice的智能和感知解決方案應用于新一代的PC，需要OEM、芯片廠商、操作系統、軟件廠商等生態合作伙伴的通力合作，Lattice也在大力推動這一進程。


小結：

Lattice的超低功耗iCE器件、ECP5器件、Certus和CrossLink-NX器件，包括CetusPro-NX器件，這四類FPGA器件都可以部署sensAI和提供sensAI所需的CNN引擎IP。據了解，除了PC這個典型場景外，Lattice也在積極構建全新的面向AI場景的汽車解決方案。