觸覺智能EVB3588實測運行大模型，效果nice！
開源鴻蒙硬件方案領跑者觸覺智能
本文基于觸覺智能IDO-EVB3588開發板，運行大模型。效果搶先看！
視頻使用的主板采用瑞芯微RK3588處理器，是全新一代AloT高端應用芯片，采用8nm LP制程，搭載八核64位CPU，四核Cortex-A76和四核Cortex-A55架構，主頻高達2.4GHz。
6TOPS AI算力，三核架構，支持int4/int8/int16/FP16/BF16/TF32；
支持H.265/H.264/AV1/VP9/AVS2視頻解碼， 最高8K60FPS；
支持 H.264/H.265視頻編碼， 最高8K30FPS；
支持HDMI2.1輸出，最高8K@60Hz；
支持HDMI2.0 輸入， 最高4K60FPS；
支持多攝像頭輸入；
雙通道LVDS，支持到1080P@60Hz 大屏幕 ；
多屏異顯；
兩路獨立的千兆以太網口，支持WAN口+LAN口 雙IP ；
豐富的系統支持， Android 12，Ubuntu，鴻蒙OpenHarmony全面支持。
1、運行在開發板上可以通過CPU直接部署運行模型，可以在終端中直接對話：
視頻效果如下所示：
CPU調用情況:
同時，通過調整模型，可以在NPU上部署運行大模型，3588開發板的NPU擁有6T的算力，可以加速模型運行。運行qwen1.8b模型占用情況如下
2、網頁調用模型API
模型部署后可以暴露API供其他應用使用，例如Web網頁調用API接口實現對話功能。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
開發板
+關注
關注
26文章
6290瀏覽量
118074 -
觸覺智能
+關注
關注
1文章
62瀏覽量
857 -
大模型
+關注
關注
2文章
3650瀏覽量
5181
發布評論請先 登錄
相關推薦
熱點推薦
從視覺檢測到多模態交互：RK1820如何賦能下一代智能嵌入式設備？
交互等實際場景中表現最優？本文整理了9款主流AI模型的完整部署方案，覆蓋多模態對話、目標檢測、圖像分類三大核心場景。每個模型均提供可直接運行的代碼及實測
OPi RK3588/RK3588S系列產品全面適配Openclaw，智能體“人人可及”時代正式開啟
領域表現突出，更在AI智能體本地化部署中展現出卓越的能效比。OpenClaw在RK3588/RK3588S平臺上的流暢運行，印證了其在終端側承載復雜AI工作流的可靠性，也為廣大開發者、
發表于 02-10 17:43
保障量產穩定！觸覺智能完成多款產品LPDDR5內存適配
面對全球存儲市場結構性調整深化，與LPDDR4因減產導致的供需失衡壓力，深圳觸覺智能已完成LPDDR5內存適配。目前，基于瑞芯微RK3576平臺的核心板、開發板、行業主板及整機多款產品LPDDR5均已穩定量產。不僅性能提升，更構筑了堅實的供應保障。針對內存性能提升，
觸覺智能RK3588行業主板通過OpenHarmony5.0 XTS認證
觸覺智能作為開源鴻蒙南向硬件廠家，旗下RK3588行業主板IDO-SBC3588（以下簡稱SBC3588）通過了OpenHarmony5.0
以觸覺為橋，定義智能體驗——PPS觸覺傳感技術賦能多領域創新
以觸覺為橋，定義智能體驗 ——PPS 觸覺傳感技術賦能多領域創新
二十多年來，PPS 始終專注于觸覺測量技術的突破與演進，將無形的 “觸覺
RK3506開發板Xenomai內核RT-Linux實時性系統適配教程與性能實測，實測僅7μs穩定延時
本文基于觸覺智能RK3506核心板/開發板，介紹Xenomai內核RT-Linux實時性系統適配，并附性能實測。簡介與實測數據Xenomai簡介XEnomai是一個實時子系統,可與Li
ALINX VD100低功耗端側大模型部署方案，運行3B模型功耗僅5W？！
大模型能運行≠用戶體驗好。 IDC 預測，到 2026 年，全球超過 50% 的企業 AI 工作負載將部署在邊緣設備上。在 AI 部署逐漸從云端轉向邊緣端的趨勢下，越來越多智能終端開始嘗試在本地
請問如何在RK3588上使用npu，用onnx模型來推理
請問如何在瑞芯微 RK3588上使用npu，用onnx模型來推理。官網上介紹說要把ONNX模型轉換成RKNN模型。但是我并不想這么干，請問有什么辦法嗎？
發表于 08-09 00:51
運行kmodel模型驗證一直報錯怎么解決？
我這運行kmodel模型驗證一直報錯，所以沒法做kmodel模型好壞驗證，不知道怎么解決這個問題，重新訓練一個kmodel模型會和拿相同pt訓練的模
發表于 06-10 08:02
觸覺智能RK3506星閃開發板規格書 型號IDO-EVB3506-V1參數詳情
1產品概述觸覺智能IDO-EVB3506-V1采用RockchipRK3506（三核Cortex-A7+單核Cortex-M0,主頻最高1.5GHz）設計的評估開發板，專為家電顯控、顯示HMI、手持
觸覺智能RK3562開發板新版強勢亮相
/RK3562J），都支持NPU和CAN功能了，為此觸覺智能RK3562開發板進行了迭代升級，全新型號為EVB3562-V2。為了慶祝觸覺智能
人工智能核心板：Core-3588SJD4 AI
Firefly最新推出人工智能核心板Core-3588SJD4AI，支持AI大模型私有化部署，支持32GBLPDDR5超大內存，廣泛適用于邊緣計算、大模型私有化部署、
《工業4.0新基建：RK3588核心板如何賦能智能制造全鏈路》
面對工業自動化對實時性與可靠性的嚴苛要求，
明遠智睿RK3588核心板以多協議網絡架構（千兆以太網+WiFi 6+5G）與多接口擴展能力（CAN、RS485、GPIO），成為智能工廠的“神經中樞
發表于 04-08 16:08
《RK3588核心板：AIoT邊緣計算的革命性引擎，能否解鎖智能物聯新范式？》
×Cortex-A55@1.8GHz）
與6TOPS NPU算力，
為邊緣設備賦予了“大腦級”處理能力。無論是智慧城市的交通監控，還是工業現場的實時質檢，RK3588核心板可同時處理多路8K視頻流并運行深度
發表于 04-02 10:26
工商網監
評論