電子發燒友網報道（文/李彎彎）如今，AI在邊緣側的應用越來越廣泛，這其中少不了AI SoC芯片的支持，邊緣計算AI SoC是一種集成了人工智能（AI）和邊緣計算能力的系統級芯片。這種芯片結合了高性能的處理器核心、AI加速器、內存控制器、外設接口以及通信接口等關鍵組件，旨在在數據產生的源頭附近（即邊緣）實現實時的數據處理、分析和決策。

邊緣計算SoC的發展歷程

SoC的發展經歷了多個階段，早期階段（1970年代至1980年代），微處理器技術開始興起，英特爾（Intel）推出了第一款微處理器Intel 4004，這通常被認為是SoC技術的起點。隨著制造工藝的改進，設計師開始將更復雜的元素（如中央處理器CPU、內存和輸入/輸出I/O電路）集成到單個芯片上，創建更先進的應用特定集成電路（ASIC）。

進一步發展階段（1990年代至2000年代）：隨著半導體工藝技術的進一步發展，將整個系統（包括模擬和數字功能）集成到單個芯片上成為可能。這為邊緣計算提供了更強大的硬件支持，因為邊緣設備需要具備一定的數據處理和計算能力。在這個時期，SoC的設計變得更加復雜，集成了更多的功能和組件，如圖形處理器（GPU）、數字信號處理器（DSP）等。

定制化SoC的發展（2010年代）：隨著物聯網（IoT）應用、可穿戴設備以及邊緣計算設備的需求不斷增加，制造商開始針對特定用例調整SoC設計，整合人工智能（AI）和機器學習（ML）功能。這推動了定制化SoC的發展，使其能夠更好地滿足特定應用的需求，提高性能和效率。

AI與SoC的深度融合（2020年代及以后）：隨著進入AI、5G連接和邊緣計算時代，SoC繼續演變以適應不斷增長的復雜性和處理要求。AI技術成為SoC架構的重要組成部分，為邊緣設備提供了更強大的智能處理能力。例如，通過集成AI加速器、神經網絡處理器（NPU）等專用硬件，SoC可以加速AI算法的執行，提高處理速度和效率。

如今，邊緣計算AI SoC的應用涵蓋多個領域和行業。如智能制造，在通過安裝集成了AI SoC的邊緣計算設備，可以實時監測生產設備的運行狀態、產品質量等信息。這些設備能夠實時分析數據，預測設備故障，優化生產流程，提高生產效率和產品質量。

再如智慧城市，在智能交通系統中，邊緣計算AI SoC可以實時分析交通流量、車輛行駛軌跡等數據，優化交通信號燈的控制策略，緩解交通擁堵。在智能安防領域，通過在城市各個角落部署邊緣計算設備，可以實時監測城市的安全狀況，進行人臉識別、行為分析等操作，提高城市的公共安全水平。

還有醫療領域，在醫院中，邊緣計算AI SoC可以實時監測患者的生理數據，如心率、血壓、血糖等。通過對這些數據的實時分析，醫生可以及時了解患者的健康狀況，為患者提供更加準確的診斷和治療方案。在遠程醫療領域，邊緣計算AI SoC可以實現遠程會診、遠程手術等功能。醫生可以通過遠程訪問患者的醫療數據，進行遠程診斷和治療，提高醫療服務的效率和可及性。

邊緣AI SoC支持大模型

隨著大模型的發展，其在邊端側的部署應用成為趨勢，如今也有不少企業推出邊緣SoC芯片支持大模型的運行。如邊緣AI半導體公司安霸（Ambarella），日前在美國 AutoSens 展會宣布推出兩款用于車載車隊遠程信息處理系統的最新一代 AI 系統集成芯片（SoC）。

新款 CV75AX 非常適合集成前置 ADAS 和駕駛員監控系統（DMS）的 AI 行車記錄儀，與安霸上一代SoC相比，其 AI 性能提高了 2 倍，使最新的Transformer神經網絡能夠提高準確性并減少誤報，而無需針對每個對象進行訓練。

新款CV72AX 非常適合下一代車載網關，支持多達10個攝像頭，其AI性能比其前代產品高出6倍，支持視覺Transformer和多模態視覺語言模型（VLM ) ，可提供實時監測預警，以及多通道視頻預分類和自然語言搜索，以實現更高效的視頻分析。

安霸此前就宣布推出了基于 CV72 芯片的多模態大模型推理解決方案——Cooper Mini。這一解決方案是為邊緣計算環境量身定制的，特別適用于需要在設備上直接進行高級數據處理的應用。安霸在2024年CES期間推出了基于N1的多模態大模型解決方案 Cooper Max，通過單顆N1芯片支持高達340億參數的多模態大模型推理。新推出的基于CV72 的Cooper Mini，則可實現低功耗系統單芯片高達30億參數的多模態大模型推理。

還有AMD此前推出的第二代Versal自適應SoC，其中的Versal AI Edge系列特別針對AI驅動型嵌入式系統進行了設計。這款SOC每瓦TOPS（每秒萬億次操作/瓦特）最多提升3倍，標量算力最多提升10倍，使其能夠更有效地支持大模型的部署和運行。

國內的云天勵飛也有一款邊緣計算芯片DeepEdge10，這是一款國產Chiplet大模型推理芯片，內置自研新一代神經網絡處理器NNP400T，通過D2D高速互聯Chiplet技術、C2CMesh互聯架構實現算力擴展，能夠支持千億級參數大模型，落地于邊緣設備和邊緣服務器。

還有北京奕斯偉推出的一款邊緣計算SoC芯片EIC7700X，采用64位RISC-V高性能處理器，并搭配自主研發的高效神經網絡計算單元，支持全棧浮點計算，全面加速生成式大模型。它擁有豐富的外圍擴展接口，并具備強大的音視頻處理能力，在計算機視覺應用領域具有超高的適應能力。

寫在最后

總之，邊緣計算AI SOC在當前的計算領域具有顯著的優勢，包括效率高、功耗低、安全性高、實時分析、分布式處理等，憑借著諸多優勢，邊緣計算SOC已經在各個領域得到應用。同時，也有不少邊緣SOC能夠支持大模型的運行。不過邊緣計算SOC也仍然尤其局限性，如定制化成本高、技術更新迅速、數據隱私和安全挑戰等，需要持續去突破。