如果你也覺得
LLM 一定要跑在云服務(wù)器
Agent 系統(tǒng)一定要 Python / Node.js
Tool Calling 一定要配一堆微服務(wù)
那這個(gè)項(xiàng)目可能會(huì)讓你有點(diǎn)意外!
我最近做了一個(gè)實(shí)驗(yàn):
把一整套 AI Agent Runtime,裝進(jìn)一塊 ESP32-S3。
這個(gè)項(xiàng)目叫:
EmbedClaw
它不是一個(gè)“聊天機(jī)器人 Demo”。
而是一套 真正可擴(kuò)展的嵌入式 Agent Runtime。

為什么要做這個(gè)項(xiàng)目
現(xiàn)在的 AI Agent 框架很多:
LangChain
AutoGPT
OpenAgents
OpenClaw
但它們幾乎都有一個(gè)共同點(diǎn):
默認(rèn)運(yùn)行環(huán)境是服務(wù)器。
而我一直很好奇一個(gè)問(wèn)題:
由此,EmbedClaw誕生了!
項(xiàng)目地址:
https://github.com/wireless-tag-com/EmbedClaw

EmbedClaw 是什么
簡(jiǎn)單說(shuō),它是一個(gè)運(yùn)行在 ESP32 上的 AI Agent 系統(tǒng)。完整的數(shù)據(jù)流是這樣的:

但它最大的設(shè)計(jì)重點(diǎn)不是“能聊天”。而是:
EmbedClaw 把四個(gè)最容易耦合的模塊徹底解耦:

換句話說(shuō):
Channel 不關(guān)心 LLM
LLM 不關(guān)心消息來(lái)源
Tools 不關(guān)心誰(shuí)調(diào)用
Agent 只負(fù)責(zé)決策
這帶來(lái)的好處非常直接:
在 MCU 上跑 Agent 是什么感覺
EmbedClaw 當(dāng)前跑在:
ESP32-S3
硬件配置:
16MB Flash
PSRAM

但它已經(jīng)具備完整 Agent 系統(tǒng)的核心能力。
當(dāng)前已經(jīng)實(shí)現(xiàn)的能力
01
LLM
默認(rèn)使用:Qwen (通義千問(wèn))
通過(guò) DashScope 的 OpenAI Compatible API 調(diào)用。
換句話說(shuō),如果你想換:
OpenAI
DeepSeek
Moonshot
其他兼容 OpenAI API 的模型
基本不用改架構(gòu)。

02
Agent
EmbedClaw 使用的是經(jīng)典:ReAct Tool Loop
模型可以:
1. 推理
2. 調(diào)用工具
3. 讀取工具結(jié)果
4. 再繼續(xù)推理
03
Tools
當(dāng)前已經(jīng)內(nèi)置了一些工具:

所有 Tool 都通過(guò) JSON Schema 暴露給 LLM。
04
Memory
EmbedClaw 有三層記憶:
長(zhǎng)期記憶
/spiffs/memory/MEMORY.md
用于記錄穩(wěn)定事實(shí)、用戶偏好等。
會(huì)話記憶
/spiffs/session/se_xxx.jsonl
用于保存最近對(duì)話歷史。
每日筆記
/spiffs/memory/YYYY-MM-DD.md
記錄近期事件。
Skills:任務(wù)級(jí)知識(shí)
EmbedClaw 引入了一個(gè)很有意思的概念:Skill
這里說(shuō)明一下:
例如:
#Translate
Translate text between languages.
## When to use
When the user asks for translation.
##Howto use
1.Detect language
2.Translate
3.Verify terminology
Skill 可以:
寫成 Markdown
動(dòng)態(tài)加載
存在 SPIFFS 里
這讓 Agent 可以不斷“學(xué)習(xí)新技能”。
Channel:支持哪些聊天入口?
目前已經(jīng)實(shí)現(xiàn):
WebSocket
最適合調(diào)試。
你可以直接連設(shè)備聊天。
這意味著:
不需要公網(wǎng)服務(wù)器
不需要 Webhook
MCU 可以直接接收飛書消息
這是很多人沒(méi)想到的玩法。
整體架構(gòu)
系統(tǒng)整體結(jié)構(gòu)大概是這樣:

所有模塊都做了清晰的解耦。
這個(gè)項(xiàng)目適合做什么
EmbedClaw 現(xiàn)在特別適合用來(lái)做:
嵌入式 AI Agent 框架實(shí)驗(yàn)
邊緣 AI 助手比如:
桌面 AI 助手IoT Agent 私人硬件 AI
Tool Calling 架構(gòu)研究
AI + MCU 的產(chǎn)品原型
一個(gè)重要的致謝
在這里,我也想特別感謝兩個(gè)非常優(yōu)秀的開源項(xiàng)目:MimiClaw
EmbedClaw 的很多理念,其實(shí)都受到了它們的啟發(fā)。MimiClaw 最讓我印象深刻的一點(diǎn)是:
把 AI Agent 的能力帶到低功耗硬件上。
它證明了一件事情:
AI Agent 不一定要運(yùn)行在云服務(wù)器上。設(shè)備本身,也可以成為 Agent 的一部分。
EmbedClaw 在這個(gè)基礎(chǔ)上,做了一些不同方向的探索:
更強(qiáng)調(diào)LLM / Agent / Tools / Channel 的架構(gòu)解耦
更偏向嵌入式工程結(jié)構(gòu)
更方便擴(kuò)展新的 Channel / Tool / Skill
某種意義上說(shuō):
EmbedClaw 是在 Mimiclaw 思路上的一次工程化嘗試。
開源世界最美好的地方就在于:
想法可以被傳遞,代碼可以被延續(xù)。
所以如果你對(duì)這個(gè)方向感興趣,也非常推薦去看看 Mimiclaw 項(xiàng)目。很多非常有意思的設(shè)計(jì),都來(lái)自那里。
為什么我把它開源
因?yàn)槲野l(fā)現(xiàn):
嵌入式 AI Agent 其實(shí)是一個(gè)很有潛力的方向。
未來(lái)可能會(huì)出現(xiàn):
會(huì)思考的 IoT
會(huì)規(guī)劃任務(wù)的硬件
可以自己調(diào)用工具的設(shè)備
而 不 是 :
“只會(huì)上傳數(shù)據(jù)的設(shè)備”。
EmbedClaw 只是一個(gè)開始!
項(xiàng)目地址
如果你對(duì):
AI Agent
嵌入式
ESP32
Edge AI
感興趣,可以看看這個(gè)項(xiàng)目:EmbedClaw
點(diǎn)擊文章末尾【跳轉(zhuǎn)原文】即可訪問(wèn)開源工程!
如果覺得有意思,歡迎:
Star
提 PR
提想法
一起把AI Agent 帶進(jìn) MCU 世界!
-
AI
+關(guān)注
關(guān)注
91文章
39866瀏覽量
301513 -
Agent
+關(guān)注
關(guān)注
0文章
186瀏覽量
28717 -
ESP32
+關(guān)注
關(guān)注
26文章
1197瀏覽量
21796
發(fā)布評(píng)論請(qǐng)先 登錄
樂(lè)鑫發(fā)布首個(gè) MCU 級(jí) Matter 攝像頭方案,啟明云端樂(lè)鑫代理
ESP32-E22 發(fā)布!樂(lè)鑫首款三頻 Wi-Fi 6E 高性能協(xié)處理器!啟明云端樂(lè)鑫代理
樂(lè)鑫科技ESP32-C 系列賦能!啟明云端超迷你開發(fā)板正式開售!啟明云端樂(lè)鑫代理
樂(lè)鑫科技ESP-AMP框架詳解!兩款已支持的ESP32-P4C5開發(fā)板推薦!啟明云端樂(lè)鑫科技代理
啟明云端正式亮相樂(lè)鑫科技官網(wǎng)授權(quán)代理商名錄
低成本開源!我用樂(lè)鑫科技ESP32-S3開發(fā)板打造了一個(gè)會(huì)自己補(bǔ)光的智能魚缸!啟明云端樂(lè)鑫代理
我家魚缸能感知光!一塊樂(lè)鑫科技ESP32-S3開發(fā)板就能實(shí)現(xiàn)環(huán)境光監(jiān)測(cè)!代碼開源!啟明云端樂(lè)鑫代理
啟明云端攜樂(lè)鑫科技ESP32-C3蠟筆小新AI潮玩方案亮相高交會(huì),受邀新加披《遇見AI》節(jié)目采訪
榮耀全球開發(fā)者大會(huì)落幕,啟明云端基于樂(lè)鑫科技ESP32-C3的AI蠟筆小新手辦方案成潮玩焦點(diǎn)
ESP32-P4 口袋開發(fā)板 啟明云端 WT9932P4-TINY開發(fā)板
樂(lè)鑫科技自研聲學(xué)前端算法通過(guò)亞馬遜 Alexa 認(rèn)證,啟明云端樂(lè)鑫科技代理商
樂(lè)鑫ESP32-C5全面進(jìn)入量產(chǎn)
樂(lè)鑫ESP32-C5全面進(jìn)入量產(chǎn)!啟明云端樂(lè)鑫科技代理商
Wi-Fi 6超值暢享|樂(lè)鑫ESP32-C61 SoC,啟明云端樂(lè)鑫科技代理商
樂(lè)鑫打造全球首款PSA Certified Level 2 RISC-V芯片,啟明云端樂(lè)鑫科技代理商
EmbedClaw:我把一個(gè)完整 AI Agent 跑進(jìn)了 ESP32!啟明云端樂(lè)鑫代理及方案商
評(píng)論