邊緣 AI 是指在邊緣設備（例如智能手機、物聯網設備和嵌入式系統）上實現 AI 算法，而不是依賴于基于云的基礎設施。AI手機和AI PC等邊緣AI主力應用，被視為是2024年整個電子供應鏈在云端AI以外，最有能力帶動整體出貨動能的關鍵應用。

IDC數據顯示，中國生成式AI投資2022到2027年五年的復合年增長率達到86.2%。Gartner預測，到2026年，80%的全球企業將使用生成式AI，50%的全球邊緣部署將包含AI。根據全球技術市場咨詢公司ABI Research的數據顯示，預計到2025年，邊緣AI芯片市場的收入將達到122億美元，云AI芯片市場的收入達到119億美元。邊緣AI芯片市場有望超越云AI芯片市場規模。

目前，AI正在重塑全球科技產業，以微軟、谷歌為代表的國際巨頭加緊布局多模態大模型，以英偉達、AMD為代表的芯片巨頭主導云端AI算力芯片市場。邊緣AI終端有哪些類型？國際大廠、國內芯片公司在邊緣AI芯片公司有哪些旗艦產品？本文進行匯總。

未來邊緣AI落地產品形態，3+N成為可能

近日，在科創板開市五周年峰會上，云天勵飛董事長兼CEO陳寧表示，今后，大模型的參數規模會越來越大，且AI能力會無線提升，直至突破通用人工智能（AGI）。邊緣AI未來幾年落地的產品形態是“3+N”，3即人形機器人、無人駕駛汽車、低空的無人機三大硬件產品形態；“N”即各類AI硬件產品，包括AI PC、AI手機、智能眼鏡等。

海通證券的研報顯示，小模型展現性能，邊緣AI芯片有望加速落地。邊緣AI芯片有望搭載小模型彌補大模型的局限，盡管云端大模型在性能上全面超越小模型，但是存在三大局限，包括較高的成本、運行速度以及對互聯網連接的依賴。相比之下，小模型允許用戶在沒有網絡的情況下與虛擬助手進行互動，能夠解決AI領域的一部分弊端。未來這類模型有望與智能手機集成，甚至內置在家電中，還有IoT終端設備，為用戶提供個性化建議。

英特爾推出邊緣AI芯片和平臺，助力客戶終端產品落地

近日，在北京舉辦的2024年英特爾網絡與邊緣計算行業大會上，英特爾公司高級副總裁兼網絡與邊緣事業部總經理Sachin Katti表示：“英特爾專注于幫助企業簡化在PC、邊緣和數據中心部署AI的復雜流程，以實現讓‘AI無處不在’的愿景。英特爾具備全面廣泛的芯片基礎。從凌動到至強，我們推出了Atom x7000RE/x7000C系列、Core和Core Ultra系列、Xeon 6700E系列、面向邊緣的Arc GPU以及IPU E2100網絡適配器。通過軟件定義的簡便性以及開放多元的生態系統，英特爾能為客戶帶來豐富的選擇。”

以英特爾酷睿處理器為例，酷睿處理器不僅技術含量高，還集成了圖形處理能力和AI功能。這使得每一個應用案例都能充分利用多用途處理器（MPU）的優勢。酷睿產品的設計非常出色，結合了GPU和客戶的需求，以及大模型應用需求等。客戶可以利用CPU和GPU，結合英特爾的OpenVINO工具套件，更容易地在平臺上運行AI應用。

例如，科東LLM機械臂控制方案基于LLM推理部署在Intel Core Ultra平臺上，同時集成了機械臂的控制系統，還有伺服器驅動機械臂本體。這款方案基于科東的機器人操作系統和語言類大模型結合的案例，案例體現了基于AI大模型的視覺識別和運動規劃的能力，AI大模型加快了開發層面的高效率，滿足了工業場景中輕量化本地部署需求，同時做到數據不出廠。這款方案已經應用在智能工廠。

此外，記者看到寶德AI數字人解決方案基于Intel至強處理器和采用Intel CPU的寶德服務器和工作站為AI算力底座，可以廣泛應用于智能語音助手、網絡直播、線上教育、零售等。英特爾的多款芯片把 NPU 概念下放到邊緣的物聯網應用上，使物聯網也能在作業時有人工智能的功能。

AMD發力邊緣AI市場，推出第二代Versal自適應SoC

今年，繼第一代VersalI AI Edge自適應SoC之后，AMD又發布了第二代Versal自適應SoC。在AMD第二代Versal自適應SoC媒體發布會上，AMD自適應與嵌入式計算事業部（AECG）Versal產品營銷總監Manuel Uhm表示：“現在的邊緣也在發生一場革命，也有越來越多的挑戰，因為邊緣會面臨更多限制，例如功耗和尺寸。”

AMD新發布的第二代Versal 自適應SoC系列為嵌入式系統帶來了單芯片的智能性。兩款芯片分別是面向AI驅動型嵌入式系統的第二代Versal AI Edge系列和面向經典嵌入式系統的第二代Versal Prime系列。

據悉，面向通用嵌入式領域的第二代Versal Prime系列則著重于將高性能標量計算能力與靈活可編程邏輯相結合，著眼于視頻處理、工業控制、軟件無線電等對算力和適配性要求極高的場合。相較上一代產品，該系列的CPU性能實現多達10倍的大幅躍升，而繼承自Xilinx的可編程邏輯架構則為適配不同接口和加速需求提供了充分保障。

據AMD官方消息，第二代Versal系列芯片的工程樣片預計最快將于2025年上半年面世，屆時還將推出配套的評估板和系統級模塊；而規模化量產也有望在年底實現。
意法半導體推出第二代STM32 MPU和邊緣AI套件

意法半導體（ST）推出了邊緣AI加速微處理器——第二代STM32 MPU。該處理器提高了工業和物聯網邊緣應用的性能和安全性，預計在2024上半年批量生產。

7月8日，在慕尼黑上海電子展上的AIoT創新應用論壇上， 意法半導體中國區微控制器、數字IC與射頻產品部市場經理丁曉磊分享了ST Edge AI套件的最新進展。ST Edge AI套件，幫助嵌入式開發者優化機器學習模型，幫助數據科學工作者在嵌入式設備上運行機器學習模型，以及幫助產品設計師和創客重新定義產品的重要特性。

本土芯片公司爭奪邊緣AI市場機會，新品加速上市

近期，兩家物聯網芯片公司公布上半年業績報告，樂鑫科技2024年上半年實現營收9.2億，同比增長37.9%，凈利潤1.52億元，同比增長134.85%。除了傳統的Wi-Fi芯片產品線帶來營收增長外，樂鑫科技推出的ESP32-S系列是邊緣側AI應用芯片，增加了用于加速神經網絡計算和信號處理等工作的向量指令，并且已可對接OpenAI的ChatGPT或百度“文心一言”等云端AI應用。

樂鑫科技表示，計算“邊緣化”趨勢將更多AI和計算能力賦予邊緣設備，為SoC設計公司提供更多機會，但同時也提出了更高的PPA要求。

晶晨股份預計2024年上半年實現凈利潤3.62億，同比增長95.98%。晶晨股份在業績預告中顯示，晶晨股份基于新一代ARM V9架構和自主研發邊緣AI能力的6nm商用芯片已成功流片，并已獲首批商用訂單。

上海為旌科技成立于2020年8月成立，這家公司的市場總監黃智向業界展示了最新的海山VS839系列及其在智能機器人領域的應用潛力。海山VS839系列芯片是專為AIOT和智能駕駛設計的高性能智慧視覺芯片。該系列芯片采用12納米工藝，具備四核A55 CPU、雙核DSP和4TOPS的NPU算力。海山VS839系列支持星光全彩、紅外熱成像、3D視覺和環視攝像頭等功能，能夠提供專業級的圖像處理效果，并支撐復雜的AI計算。

7月30日，此芯科技聚焦AI PC領域，發布首款異構高能效SoC此芯P1。此芯科技創始人、CEO孫文劍表示：“此芯科技致力于以高能效算力解決方案，推動端側AI生態發展，通過AI技術應用，讓生活、學習、工作變得更智能、高效、人性化。”

此芯P1使用6nm制造工藝，提供豐富的AI異構計算資源、全方位的安全引擎、多樣化的外設接口以及多操作系統支持等特性。強大的多媒體引擎支持4K120幀顯示、8K60幀視頻解碼以及8K30幀視頻編碼等；高性能的訪存子系統配置128-bit LPDDR5低功耗內存，容量可達64GB，數據傳輸率可達6400Mbps、帶寬可達100GB/s。

小結：

邊緣AI終端市場迎來發展的熱潮，但現在也面臨三重挑戰：一、芯片和硬件選擇，企業要根據具體需求做出決定；二是部署和管理的邊緣裝置規模從 50 臺至上萬臺不等，且要運行不同模型，管理上不易；三是模型迭代，企業需要花費心力進行更新。

隨著算力從云端向終端的轉移，邊緣AI設備的急速增加給芯片廠商帶來市場增長機會。哪些芯片廠商能抓住AI PC、智慧工廠、智慧城市、自動駕駛領域等細分市場的增長機會，我們將拭目以待。