在今天舉辦的芯原AI專題技術研討會上，芯原執行副總裁、IP事業部總經理戴偉進先生帶來了《大模型推動邊緣計算變革的機遇與挑戰》的主題演講。

過去這些年，AGI大模型在諸多方面實現了突破性進展，包括模型自主使用工具、模型自我迭代/自我設計、模型的情感能力等。現在很明顯的趨勢是，將大型人工智能模型引入嵌入式系統，而最明顯的邊緣設備應用則是“手機、AI-PC、汽車”。

大語言模型最主要的能力是自然的人機交互，包括：1、多模態能力；2、更自然的對話和更真實的信息；3、通用人工智能。目前已經有不少相關的產品發布，如，OPenAI發布具有突破性的Sora視頻生成模型，采用Transformer架構是一個在不同時長、分辨率和寬高比的視頻及圖象上訓練而成的擴散模型。

對標Sora的高質量視頻生成模型，谷歌宣布推出全新的Project Astra項目、基于Gemini，可以本地運行在Pixel手機或AR眼鏡上，在各個生活場景中與用戶實現低延時全方位的語音交互，是對標OpenAI GPT-4o的最新模型。

微軟CoPilot+PC最新技術亮點：（1）算力升級。（2）回溯記憶。（3）實時字幕。（4）渲染交互。AGIBot在2023年8月推出具身智能機器人“遠征A1”，百億參數大模型加持、目標成本20萬元以內。采用了語言任務模型WorkGPT，結合了LLM和VLM等AI技術，能夠為機器人提供自主感知環境、理解任務、編排動作的能力，并且實現了思維鏈。

在本次會議上，戴偉進先生詳細介紹了芯原的NPU技術。芯片原神經網絡處理器（NPU）已在全球累積出貨超過1億顆，涵蓋：AI視覺、AI語音、AI圖象、AIoT/智慧家居、AR/VR、自動駕駛、PC、智能手機、監控、數據中心、可穿戴設備、智慧醫療、機器人等。

芯原圖形處理器（GPU）已在全球累積出貨近20億顆，70項國內外專利、耕耘嵌入式市場近20年。

芯原視頻處理器（VPU）全球領先-AI Video，AI賦能智能視頻處理等行業。今天已經在邊緣設備運行大模型，包括：AIPC、醫療系統設備，計算機和工業應用領域等等。

芯原AI-Computing處理器技術可編程、可擴展、高性能、低功耗。芯原AI-ComputingIP產品，包括：數據中心、邊緣服務器等。NPU IP VIP9X00是推斷、增量訓練，GPGPU IP CC8X00是通用計算，NPU+GPUIP GC9X00AI是AI-GPU/AI-PC，Tensor Core GPU IP CCTC-MP、大模型預演模型推理、訓練。

芯原 AI-Computing軟件框架方面，芯原Acuity工具、庫和軟件堆棧。Project Open Se Cura-邊緣與云協同計算（大模型、輕量大模型），芯原應用與谷歌眼鏡、使其極低功耗、常開、環境計算。大語言模型正在云端和移動設備上，那些大語言模型的主要組件可以實現捕捉、信號和感知信息，可以評估和融合。