日前,香橙派官方發布OrangePi AI Stuido、OrangePi AIpro(20T)本地部署Deepseek-R1蒸餾模型指南,通過在邊緣進行離線部署,幫助用戶實現高效端側智能,確保數據處理的安全性和可控性。
據了解,DeepSeek-R1專為數學、代碼生成和復雜邏輯推理任務設計,通過大規模強化學習(RL)提升推理能力,還摒棄監督微調(SFT),采用純強化學習(GRPO算法)訓練基座模型。同時,DeepSeek-R1提供了高效模型蒸餾技術,可將大規模模型能力遷移至更小、更高效的版本,優化模型性能、開源應用。經蒸餾后的DeepSeek-R1模型支持部署于端側,大幅降低計算資源需求,顯著提升端側設備的AI推理效率。
目前,香橙派已經發布在OrangePi AI Stuido、OrangePi AIpro(20T)上運行Deepseek-R1蒸餾模型的操作指南,香橙派表示,未來將加大研發投入,攜手昇騰推動不同算力等級的產品與DeepSeek等優質模型相結合,進一步降低端側AI的門檻,為客戶創造更大的AI價值。


據了解,OrangePi AIpro(20T)是香橙派聯合昇騰AI打造的高算力開發板,根植于昇騰AI技術,集AI計算、ISP、圖形輸出等功能于一體,釋放高達20 TOPS的AI算力。可配12/24GB運行內存,匯聚了MIPI DSI、雙MIPI CSI、USB3.0、Type-C、雙HDMI2.0、雙2.5G以太網、支持SATA/NVMe SSD 2280的M.2插槽等各類流行的接口。OrangePi AIpro(20T)依托昇騰AI基礎軟硬件能力的基礎,融合大模型與訓推一體化優勢,實現端邊云全場景無縫部署,是構建昇騰計算產品、使能上層軟件和應用的底座,有高算力、高能效等特性。

OrangePi AI Studio采用昇騰AI技術路線,融合“ARM core,AI core,Vector core,Image core”于一體,提供“基礎通用算力+超強AI算力+編解碼核心”,充分滿足推訓一體AI任務需求,擁有48GB /96GB LPDDR4X,速率高達4266Mbps。
OrangePi AI Studio匯聚了Type-C(USB4.0)、電源接口、電源按鍵、LED指示燈等,可廣泛應用于OCR識別、目標識別、人臉識別、搜索推薦、大模型多模態、內容審核、VR智能、數字醫療、物聯網等諸多AI應用場景。
-
開發板
+關注
關注
26文章
6289瀏覽量
118041 -
香橙派
+關注
關注
2文章
47瀏覽量
12453 -
大模型
+關注
關注
2文章
3648瀏覽量
5179 -
DeepSeek
+關注
關注
2文章
835瀏覽量
3255
發布評論請先 登錄
香橙派全志系列開發板適配OpenClaw教程
華為昇騰深度適配智譜AI全新開源模型GLM-5
香橙派AIpro(20T)走進北京大學、上海交通大學等高校鯤鵬昇騰科教創新卓越中心特訓營
大華股份亮相華為中國合作伙伴大會2025 星漢×昇騰推動行業創新發展
Janus-Pro香橙派開發板實踐指南
2025昇騰AI開發者創享日浙江站成功舉辦,現場演示OrangePi AIpro(20T)部署DeepSeek模型開發全流程
潤和軟件將持續深化“昇騰+DeepSeek”技術路線
中軟國際發布基于昇騰計算架構的“DeepSeek社保基金監管大模型一體機”解決方案
香橙派昇騰系列產品深度適配Deepseek系列大模型
評論