電子發燒友網報道(文/黃山明)隨著人工智能技術與兒童消費市場結合,AI玩具通過語音交互、人臉識別等功能提升教育性和趣味性,但過度采集兒童生物特征、存儲敏感數據等問題頻發。
因此,近期在國家網絡安全宣傳周個人信息保護分論壇上,中國網絡空間安全協會聯合16家會員單位發布了《智能玩具個人信息保護倡議》(以下簡稱《倡議》)。該倡議旨在應對智能玩具行業快速發展中暴露的兒童個人信息安全問題,推動行業合規化、健康化發展。
野蠻生長的AI玩具
有數據顯示,AI玩具今年以來融資數量與金額大幅增長,近百家投資機構入局。據天眼查數據顯示,截至目前我國現存在業、存續狀態的玩具相關企業超1347.7萬家。其中,2025年截至目前新增注冊相關企業約263.5萬余家。
從企業注冊數量趨勢來看,近五年間,玩具相關企業的注冊數量呈現出逐年增長的態勢,并在2024年達到頂峰。從區域分布來看,廣東省、海南省、湖北省玩具相關企業數量位居前列,三個省市數量總和超過411.9萬余家,占企業總數的30.57%。
眾多涌入的玩具,帶來了AI玩具市場的繁榮,根據咨詢公司IMARC的預測,到2033年,全球AI玩具市場規模有望從2024年的181億美元,上升至600億美元,2024年至2033年復合增長率約14%。
但與此同時,迅猛發展的AI玩具市場也帶來了一些數據安全的問題。由于玩具本身依賴于語音、觸覺、視覺或者AI大模型參與的情感計算與長期記憶等方式進行交互,這就意味著AI玩具中存在非常多用戶的敏感生物信息。
《倡議》的出現,便是為了應對兒童個人信息安全的問題,并且通過在硬件、固件、云端、App四條鏈路進行控制,最大程度防止信息泄露的問題。例如可以在麥克風、攝像頭模組供電線路上加MOS管或撥碼開關,由家長擰一把螺絲刀即可真斷電,SDK層面再讀取GPIO狀態,實現“開關未閉合時驅動拒絕加載”。
而在MCU/SoC固件里只注冊必需的HID通道(例如僅保留按鍵、加速度計),語音ADC、Camera MIPI在驅動層被條件編譯裁掉,OTA時校驗hash,防止偷偷把驅動加回來。
也可以試試端到端加密,例如Wi-Fi層已支持WPA3-SAE,應用層再套TLS1.3,,禁用TLS_RSA、TLS1.0/1.1,防止中間人降級。而語音/圖像在玩具RAM里先AES-256-GCM就地加密,Key存在TPM/TrustZone,加密完成后再調用HTTPS接口上傳;云端只拿到密文,無法逆推出原始文件。
即便數據上傳至云端,也要求第三方共享需可審計、可追溯,僅允許預注冊的第三方SDK接入,且需家長逐項授權,并且所有出站請求經網關記錄,同時在共享數據中嵌入用戶ID哈希,便于泄露溯源。
總體來看,該倡議實質推動智能玩具從“功能導向”轉向“隱私安全優先”的工程范式,要求企業在硬件選型、固件開發、云服務設計全鏈路中嵌入隱私保護能力。未來,通過認證的兒童安全智能終端(如類似歐盟KIDS標準)可能成為市場準入門檻。
數據隱私安全將成為AI玩具供應鏈重要一環
隨著對數據安全的愈發重視,供應鏈各環節的廠商,包括模組提供商、AI模型服務商、整機制造商及平臺運營方,正在通過技術、制度與合規手段多管齊下,探索可行的隱私保護路徑。
例如Hape與歐洲大型模組供應商Aleph Alpha推出的AI故事機,這款產品加入了物理總線開關,麥克風供電線串接MOS,家長擰螺絲刀直接全部斷電,驅動層僅保留I2S輸入,Camera MIPI被條件編譯裁掉。
網絡并非持續連接,Wi-Fi只在每日03:00-03:15打開,TLS1.3 + Mutual ECDSA證書,15 min窗口后自動關閉。存儲更是采用32G eMMC本地循環存儲,AES-256-XTS硬件加密,Key寫在NXP A71CH安全芯片,拆機即自毀。
并且在日常對話中,會將原始語音先切片,再隨機丟棄30%的幀,并加入-40 dB噪聲,ε=1差分隱私,最后才會經HTTPS上傳,用于更新小模型。
還有國內的一些蜂窩/Wi-Fi模組也已經供應歐洲多品牌的AI陪伴玩偶,有些模組中的加密MCU內置TrustZone,麥克風數據進SoC前完成AES-256-GCM就地加密,模組還預置eSIM,僅允許訪問白名單IP,TLS1.3 + OCSP Stapling,禁用TLS renegotiation。
在云端存儲上,采用兒童獨立加密庫,對象存儲桶默認加密(SSE-KMS),KMS密鑰與成人業務物理隔離。同時模組側預置數據國別標簽,歐盟用戶默認走法蘭克福區,不出境;如要出境,需家長二次勾選+短信OTP。
如近幾年大火的BubblePal玩具,遵照嚴格的數據安全標準,通過先進的加密技術和安全協議來保護所有數據傳輸,防止未授權訪問和數據泄露,其所有聊天記錄的保存均需經過家長同意,且家長可以通過專屬應用隨時訪問并刪除孩子的個人數據。
部分廠商遵循最小化數據收集原則,僅收集實現產品功能所必需的數據。比如一些AI玩具企業在其產品中僅收集實現語音識別、圖像識別等功能所必需的數據,避免過度收集兒童的人臉、地理位置、家庭聯系方式等敏感個人信息。
當然,盡管已經有不少廠商開始重視兒童數據安全。但不少中小廠商因成本與技術能力限制,難以部署完整的端側AI與加密傳輸方案;部分產品在固件更新后可能悄然擴大數據采集范圍,而家長難以察覺。
小結
在AI玩具迅猛發展的當下,數據安全也越來越得到重視,隨著《倡議》的出臺,相信行業也將明白加密存儲、訪問分級、異常預警、第三方審計不再是口號,而是可以變成一系列可測試、可回歸的技術需求。例如要求語音、圖像數據優先本地化處理,從源頭降低泄露風險,真正讓AI玩具成為好玩但偷不走隱私的伙伴。
因此,近期在國家網絡安全宣傳周個人信息保護分論壇上,中國網絡空間安全協會聯合16家會員單位發布了《智能玩具個人信息保護倡議》(以下簡稱《倡議》)。該倡議旨在應對智能玩具行業快速發展中暴露的兒童個人信息安全問題,推動行業合規化、健康化發展。
野蠻生長的AI玩具
有數據顯示,AI玩具今年以來融資數量與金額大幅增長,近百家投資機構入局。據天眼查數據顯示,截至目前我國現存在業、存續狀態的玩具相關企業超1347.7萬家。其中,2025年截至目前新增注冊相關企業約263.5萬余家。
從企業注冊數量趨勢來看,近五年間,玩具相關企業的注冊數量呈現出逐年增長的態勢,并在2024年達到頂峰。從區域分布來看,廣東省、海南省、湖北省玩具相關企業數量位居前列,三個省市數量總和超過411.9萬余家,占企業總數的30.57%。
眾多涌入的玩具,帶來了AI玩具市場的繁榮,根據咨詢公司IMARC的預測,到2033年,全球AI玩具市場規模有望從2024年的181億美元,上升至600億美元,2024年至2033年復合增長率約14%。
但與此同時,迅猛發展的AI玩具市場也帶來了一些數據安全的問題。由于玩具本身依賴于語音、觸覺、視覺或者AI大模型參與的情感計算與長期記憶等方式進行交互,這就意味著AI玩具中存在非常多用戶的敏感生物信息。
《倡議》的出現,便是為了應對兒童個人信息安全的問題,并且通過在硬件、固件、云端、App四條鏈路進行控制,最大程度防止信息泄露的問題。例如可以在麥克風、攝像頭模組供電線路上加MOS管或撥碼開關,由家長擰一把螺絲刀即可真斷電,SDK層面再讀取GPIO狀態,實現“開關未閉合時驅動拒絕加載”。
而在MCU/SoC固件里只注冊必需的HID通道(例如僅保留按鍵、加速度計),語音ADC、Camera MIPI在驅動層被條件編譯裁掉,OTA時校驗hash,防止偷偷把驅動加回來。
也可以試試端到端加密,例如Wi-Fi層已支持WPA3-SAE,應用層再套TLS1.3,,禁用TLS_RSA、TLS1.0/1.1,防止中間人降級。而語音/圖像在玩具RAM里先AES-256-GCM就地加密,Key存在TPM/TrustZone,加密完成后再調用HTTPS接口上傳;云端只拿到密文,無法逆推出原始文件。
即便數據上傳至云端,也要求第三方共享需可審計、可追溯,僅允許預注冊的第三方SDK接入,且需家長逐項授權,并且所有出站請求經網關記錄,同時在共享數據中嵌入用戶ID哈希,便于泄露溯源。
總體來看,該倡議實質推動智能玩具從“功能導向”轉向“隱私安全優先”的工程范式,要求企業在硬件選型、固件開發、云服務設計全鏈路中嵌入隱私保護能力。未來,通過認證的兒童安全智能終端(如類似歐盟KIDS標準)可能成為市場準入門檻。
數據隱私安全將成為AI玩具供應鏈重要一環
隨著對數據安全的愈發重視,供應鏈各環節的廠商,包括模組提供商、AI模型服務商、整機制造商及平臺運營方,正在通過技術、制度與合規手段多管齊下,探索可行的隱私保護路徑。
例如Hape與歐洲大型模組供應商Aleph Alpha推出的AI故事機,這款產品加入了物理總線開關,麥克風供電線串接MOS,家長擰螺絲刀直接全部斷電,驅動層僅保留I2S輸入,Camera MIPI被條件編譯裁掉。
網絡并非持續連接,Wi-Fi只在每日03:00-03:15打開,TLS1.3 + Mutual ECDSA證書,15 min窗口后自動關閉。存儲更是采用32G eMMC本地循環存儲,AES-256-XTS硬件加密,Key寫在NXP A71CH安全芯片,拆機即自毀。
并且在日常對話中,會將原始語音先切片,再隨機丟棄30%的幀,并加入-40 dB噪聲,ε=1差分隱私,最后才會經HTTPS上傳,用于更新小模型。
還有國內的一些蜂窩/Wi-Fi模組也已經供應歐洲多品牌的AI陪伴玩偶,有些模組中的加密MCU內置TrustZone,麥克風數據進SoC前完成AES-256-GCM就地加密,模組還預置eSIM,僅允許訪問白名單IP,TLS1.3 + OCSP Stapling,禁用TLS renegotiation。
在云端存儲上,采用兒童獨立加密庫,對象存儲桶默認加密(SSE-KMS),KMS密鑰與成人業務物理隔離。同時模組側預置數據國別標簽,歐盟用戶默認走法蘭克福區,不出境;如要出境,需家長二次勾選+短信OTP。
如近幾年大火的BubblePal玩具,遵照嚴格的數據安全標準,通過先進的加密技術和安全協議來保護所有數據傳輸,防止未授權訪問和數據泄露,其所有聊天記錄的保存均需經過家長同意,且家長可以通過專屬應用隨時訪問并刪除孩子的個人數據。
部分廠商遵循最小化數據收集原則,僅收集實現產品功能所必需的數據。比如一些AI玩具企業在其產品中僅收集實現語音識別、圖像識別等功能所必需的數據,避免過度收集兒童的人臉、地理位置、家庭聯系方式等敏感個人信息。
當然,盡管已經有不少廠商開始重視兒童數據安全。但不少中小廠商因成本與技術能力限制,難以部署完整的端側AI與加密傳輸方案;部分產品在固件更新后可能悄然擴大數據采集范圍,而家長難以察覺。
小結
在AI玩具迅猛發展的當下,數據安全也越來越得到重視,隨著《倡議》的出臺,相信行業也將明白加密存儲、訪問分級、異常預警、第三方審計不再是口號,而是可以變成一系列可測試、可回歸的技術需求。例如要求語音、圖像數據優先本地化處理,從源頭降低泄露風險,真正讓AI玩具成為好玩但偷不走隱私的伙伴。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
加密芯片
+關注
關注
3文章
134瀏覽量
24664 -
數據安全
+關注
關注
2文章
749瀏覽量
30733
發布評論請先 登錄
相關推薦
熱點推薦
揭秘AI玩具“聽得清”的秘密!這幾款語音前端芯片撐起交互體驗天花板
電子發燒友網報道(文/黃山明)在AI大模型的加持下,AI玩具的最重要的功能便是語音交互,而要做到較好的語音交互,少不了語音前端處理芯片的加持。 ? 因為
存算一體成AI玩具芯片核心驅動力
語音喚醒、人臉識別、情感回應等,需低延遲、高隱私且能適應玩具體積限制。傳統SoC僅依賴CPU/GPU處理AI任務,存在算力不足、功耗高、延遲大等問題。 ? 有些SoC會加入NPU,而NPU作為專門為
AI玩具的Wi-Fi MCU芯片,重塑智能交互的底層革命
電子發燒友網綜合報道 近期,AI玩具的快速普及,推動了一個新賽道的崛起,即Wi-Fi MCU芯片。這類芯片作為連接AI
AI玩具,還是AI工具?
近年來,隨著ChatGPT、DeepSeek等大模型的爆發,AI技術正以前所未有的速度滲透到消費電子市場。從2025年CES上AI玩具的火爆,龍年春節之后至今,眾多國內的技術公司不斷發布集成了豆包
芯片、模組廠商爭先布局!溢價高達10倍的AI玩具賽道為什么這么火?
當AI這股風吹向玩具賽道,一片巨大的藍海市場正在被撬動。普通玩具被賦予AI功能之后,不但身價倍增,連銷量也跟著蹭蹭倍漲。有業內人士表示,大模型讓普通
AI玩具芯片如何尋找性能、功耗與成本之間的平衡點
之間找到適合的方案?本文結合實際案例,總結芯片選型的核心原則與開發經驗。 ? AI 玩具芯片選擇的三大核心原則 ? 對于AI
全志AIOT系列芯片助力AI玩具百花齊放
AI算法、多模態交互等技術方面的生態體系布局。同時,針對“AI玩具場景中的芯片算力與功耗優化”等關鍵問題,進行了深度的研討與經驗分享。
AI玩具爆火,芯片方案涌入
電子發燒友網報道(文/黃晶晶)此前,字節跳動推出的一款名為“顯眼包”的AI玩具,原本是送給客戶的中秋節禮品,不對外售賣,但因此出色的語音互動和講故事等能力,在二手平臺有人開出數百元高價求購
廣和通AI玩具解決方案接入DeepSeek
2月17日,廣和通AI玩具解決方案通過火山引擎接入DeepSeek開源模型,滿足AI玩具場景在多模態交互、自然語言處理、情感分析、教育功能等方面的需求,為兒童
廣和通正式推出AI玩具大模型解決方案
廣和通近期推出了一款創新的AI玩具大模型解決方案,該方案深度融合了豆包等AI大模型,并內置了廣和通Cat.1模組,為智能玩具的AI化升級提供
用AI大模型重新定義傳統玩具!涂鴉方案賦能客戶打造火爆全球的AI玩具
一、AI玩具憑什么火爆全球最近,AI玩具到底有多火呢?一款AI賦能的國產變形金剛威震天,讓馬斯克看了都忍不住要瘋狂點贊轉發,上萬元的價格一夜
廣和通發布AI玩具大模型解決方案
近日,廣和通推出了一項專為AI玩具設計的創新解決方案——AI玩具大模型解決方案。該方案深度融合了豆包等領先的AI大模型技術,并內置了廣和通先
廣和通推出AI玩具大模型解決方案
廣和通推出AI玩具大模型解決方案,該方案深度融合豆包等AI大模型、內置廣和通Cat.1模組,助力智能玩具實現AI化升級。該解決方案無需外接M
智能語音開關:離線控制,守護隱私的新選擇
智能家居依賴網絡,智能音箱成入口。但隱私泄露成問題,離線智能產品應運而生。九芯電子采用NRK3502離線語音芯片,實現精準語音控制,守護用戶隱私,操作便捷安全。

隱私泄露?AI玩具“斷電開關”“加密芯片”將成標配
評論