伦伦影院久久影视,天天操天天干天天射,ririsao久久精品一区 ,一本大道香蕉大久在红桃,999久久久免费精品国产色夜,色悠悠久久综合88,亚洲国产精品久久无套麻豆,亚洲香蕉毛片久久网站,一本一道久久综合狠狠老

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

端側AI革命:移遠通信如何用大模型重構人機交互

移遠通信 ? 2025-04-03 19:06 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群


2025 年春節前后,DeepSeek 橫空出世,改變了全球 AI 產業的市場格局與發展范式。DeepSeek 爆火進一步激發了“邊緣 + AI”的市場剛需,顯著降低了大模型在邊緣設備的部署及運營成本。一時間,各類應用紛紛接入 DeepSeek,包括搜索引擎、機器人、汽車、智能手機等。


移遠通信產品總監王韜在“綻放通信之美—預見端側 AI 未來”主題直播中指出,DeepSeek 推動端側 AI 從被動智能邁向主動智能,但也引發了關于算力、算法與應用的新思考和新挑戰。移遠通信提供的端側大模型解決方案,深度融合 LLM(大語言模型)、RAG(檢索增強生成)與 Agent(智能體)等前沿技術,賦能端側 AI 方案創新。



DeepSeek帶來端側AI發展新范式


端側 AI 并非新興概念。早期,產業借助 DSP 等專用芯片處理語音識別、圖像增強等基礎任務。隨著芯片算力提升,產業開始探索將復雜算法融入終端設備。2021 年前后,將 AI 大模型能力植入端側興起,標志著端側 AI 進入認知智能階段。根據頭豹研究院發布的《2024 年中國端側 AI 場景應用分析:智能終端與邊緣計算的融合創新》報告,2023 年中國端側 AI 市場規模達 1939 億元,預計 2028 年將增至 19071 億元,年均復合增長率為 58%。


a3f4d898-107b-11f0-9434-92fbcf53809c.png

中國端側 AI 市場規模,圖源:頭豹研究院


從千億級邁向萬億級,端側 AI 后續更大的增量源于端側應用與邊緣計算、AI 大模型的融合。這種融合從技術架構、場景創新和產業生態三個維度重塑端側 AI 的邊界。移遠通信產品經理王柯指出,相較于云端 AI,端側 AI 實時性更佳,推理成本更低,且保障了用戶隱私安全。此外,端側 AI 使大模型推理擺脫網絡依賴,在信號不佳或無網絡服務區域也能提供推理服務。


然而,將云端AI 大模型部署到端側面臨諸多難題。比如,如何平衡端側推理效率與模型能力,怎樣實現硬件、軟件與商業模式的協同發展等。在 DeepSeek 出現前,端側 AI 發展的難題是云端依賴與端側限制并存。端側設備受算力、存儲和功耗制約,難以承載超 10B 參數的大模型,需借助云端協同完成復雜任務,這導致響應延遲和隱私風險。同時,模型功能單一,無法支持多模態交互或主動決策。


DeepSeek 的出現對端側 AI 發展具有革新意義。它采用創新的 MoE(混合專家)架構,如在 DeepSeek-V3 模型中,每層包含 256 個路由專家和 1 個共享專家,每個 Token 僅激活 8 個專家,大幅降低了訓練和推理成本;通過高效蒸餾技術,將大模型推理能力遷移至更小、更高效的版本,彌補了小推理模型 Self-play 學習的不足;此外,DeepSeek-R1-Zero 實驗性版本表明,僅通過強化學習就能獲得強大推理能力。


DeepSeek 的方法論使端側能夠獨立完成復雜任務,將應用決策權從云端真正下放至邊端。王柯認為,DeepSeek 闡釋了一種 “少即是多” 的 AI 大模型部署理念,進一步推動模型小型化發展。現階段,3B 或 4B 參數級別的模型已等效于之前的 7B 參數模型。


移遠通信產品經理羅錚談到,從硬件角度看,DeepSeek 的一大優勢在于以更小體量模型帶來更強能力,這使得小算力芯片、小容量存儲及小 BOM 就能實現高性能端側 AI 方案。


當前,端側 AI 大模型主要落地場景包括 AI PC、AI 手機、AI 可穿戴設備、AI 智能家居、AI 智能汽車、AI 零售等。機器人應用,尤其是人形機器人,則是端側 AI 落地的藍海市場。端側 AI 大模型部署通過技術架構革新和場景適配能力突破,推動機器人產業向更高階的自主化、智能化方向發展。一方面,端側部署大模型可提升機器人實時性和可靠性,通過本地化運算大幅降低數據傳輸延遲,使機器人能在毫秒級的時間內完成環境感知 - 決策 - 執行閉環,滿足工業場景中精準抓取、避障等高實時性需求;另一方面,端側部署大模型還可提升機器人交互性能,支持視覺、語音、觸覺等多模態數據實時融合處理,使服務型機器人實現更自然的擬人化交互。


移遠通信產品經理沈鋒稱,對于機器人等端側 AI 應用而言,DeepSeek 帶來的直觀影響是能以更低成本實現相同性能,使越來越多領域愿意投資端側 AI。



移遠通信為端側AI落地提供一站式解決方案


正如移遠通信幾位產品經理在直播中所分享,移遠通信為端側 AI 落地提供涵蓋智能硬件、算力、算法和服務的完整解決方案,助力用戶快速實現端側 AI 從概念到落地的商業轉化。


高效支持主流 AI 大模型



AI 大模型是 AI Agent 的核心。目前,移遠大模型解決方案可實現 AI 模型的端側部署,支持通義千問、DeepSeek 等主流 AI 大模型。


針對當下大熱的 DeepSeek,DeepSeek-R1 版本專注于強化學習技術路線,其蒸餾版本參數范圍為 1.5B 至 70B。得益于蒸餾技術,這些小模型雖體量小但性能強勁,是端側 AI 部署的理想選擇。目前,移遠通信高算力AI智能模組 SG885G已能穩定運行 DeepSeek-R1 蒸餾小模型,并完成了針對性微調。


實測數據顯示,移遠通信 SG885G 模組運行 DeepSeek-R1 蒸餾小模型的方案,其生成 Tokens 的速度超每秒 40 個 Tokens。按人類講話速度換算,人類每分鐘能講 300 - 400 個字,約 500 - 600 個 Tokens。因此,能支持每秒準確輸出 10 個Tokens 的 AI 模型即可滿足商業落地條件。


未來,隨著性能持續優化,該方案的速度還將進一步提升,為智能終端設備賦予更強大的 AI 能力。該方案適用于智能機器人、智能座艙、機器視覺、個性化虛擬助理、平板電腦、老人監護、智能家居、AI 玩具及可穿戴設備等多元場景。



王柯表示,在眾多廠商還在探索如何支持 DeepSeek 模型時,移遠通信已率先取得突破,這充分彰顯了移遠通信技術團隊卓越的工程化能力,能夠快速完成方案設計、模型微調、端側部署和資源調度等工作。


在端側 AI 交互至關重要的語音交互領域,移遠通信大模型解決方案在全語音鏈路上實現無縫銜接與高效運行,涵蓋 KWS 語音喚醒、VAD 人聲檢測、ASR 語音識別和 TTS 語音播報等主流功能,助力用戶快速實現基于語音的無感交互。


a43aa9b8-107b-11f0-9434-92fbcf53809c.jpg



滿足端側 AI 廣泛需求的模組產品矩陣


邊緣計算智能模組是AI Agent 的基石。移遠通信面向端側 AI 應用提供豐富的模組產品。SG885G-WF 是該公司目前在端側 AI 領域主推的一款智能模組,集成高通 QCS8550 芯片,綜合算力高達 48 TOPS,并提供 LCM、攝像頭、觸摸屏、I2S、PCIe、UARTUSBI2C 等豐富接口資源。為滿足端側 AI 在不同算力、成本、功耗方面的需求,移遠通信還提供包括但不限于以下產品系列:


■ 基于高通 QCS8250 的 SG865W 系列,算力為 15 TOPS;


■ 基于高通 QCM6490 的 SG560D 系列,算力為 12 TOPS;


■ 基于展銳 UIS7885 的 SG530C 系列,算力為 8 TOPS;


■ 基于瑞芯微 RK3568 的 SG368Z 系列,算力為 1 TOPS。



羅錚介紹,總體而言,移遠通信的智能模組可覆蓋 1 TOPS 到 48 TOPS 的算力需求,公司還在規劃 80 - 100 TOPS 甚至更高算力的產品,以滿足客戶在端側 AI 不斷增長的算力需求。


同時,移遠通信也打造了有利于用戶方案實現的開發板,比如MWC 2025上公司推出QuecPi Alpha智能生態開發板,基于高通躍龍QCS6490處理器打造,AI算力高達12 TOPS,能夠滿足眾多AIoT應用場景中對物體識別、圖像識別等功能的多樣化需求。這些硬件方案都能靈活支持安卓、Linux 和 Ubuntu 等操作系統,充分滿足客戶在高端機器人和端側 AI 方面的開發需求。移遠通信的軟硬件產品組合及背后的技術服務,能讓用戶便捷地完成不同算力平臺間的切換,加速產品升級迭代進程。


a46c7132-107b-11f0-9434-92fbcf53809c.jpg

QuecPi Alpha智能生態開發板



智能模組 + AI 大模型,重構端側 AI 應用


如前所述,移遠通信的智能模組和大模型解決方案有著豐富的應用場景。下面通過具體案例,看看移遠通信如何借助智能模組 + AI 大模型賦能端側 AI 應用。


第一個案例是當下熱門的 AI 機器人。基于移遠通信端側大模型解決方案中的 SG885G-WF 智能模組和全語音鏈路架構,服務機器人能對指令、提問或求助迅速響應,準確理解用戶意圖,并以清晰自然的語音反饋,實現無感交互。尤其值得一提的是,得益于 SG885G-WF的高算力,移遠“大模型+AI 機器人”解決方案在離線狀態下也能提供完整 AI 性能。



這一方案使服務機器人在終端市場具備巨大應用價值,涵蓋醫療康養、智能客服、接待導覽和零售導購等領域。在具體落地過程中,移遠通信技術團隊提供高效、全面的工程化支持,助力客戶產品快速進入市場,并形成差異化競爭優勢。比如,在醫療康養領域,德壹機器人基于移遠通信集成SG885G-WF模組的端側AI解決方案推出了全能王AI具身機器人,支持8自由度3D視覺導航,融合尖端AI技術、中醫理療智慧與具身智能,重新定義了智能理療服務邊界。



沈鋒認為,DeepSeek 等 AI 大模型的推出為機器人行業發展注入新活力,重塑了機器人的 “大腦”。現階段,機器人僅具備一些基礎能力,交互方面存在較大欠缺,AI 大模型的加入將改善這一狀況。未來,落地到終端的AI機器人會越來越多,這將是一個在未來 5 年增長率極高的領域。


第二個案例是 AI 智能無人零售解決方案,移遠通信通過大模型重新定義無人零售的交互體驗。在 MWC 2025 上,移遠通信宣布推出圍繞 “動態視覺 + 邊緣計算” 構建的全新 AI 智能無人零售解決方案。該方案基于移遠高性能5G AI算力模組 SG560D,支持先進的全鏈路商品識別算法,識別準確率高達 99%,還具備創新的上新平臺等軟硬件服務,可無縫對接客戶應用程序。除 SG560D 模組搭載的QCM6490平臺外,移遠通信這套方案還能兼容更多算力平臺,滿足零售機廠商的差異化競爭需求。


目前,移遠 AI 智能無人零售解決方案已與興元科技 “喵星人” 智能售貨機等多家客戶產品完成系統集成,并進入實地場景測試階段。



結語


作為端側 AI 生態的重要構建者,移遠通信正通過“智能模組 + AI 大模型”雙輪驅動,重塑端側 AI 的產業格局。其一站式大模型解決方案深度融合 DeepSeek 等前沿 AI 模型,結合SG885G-WF 等高性能AI模組,成功突破端側部署的算力瓶頸與工程難題,在機器人、智能零售、汽車電子等場景中,構建起 “本地決策 - 實時交互 - 隱私保護” 的閉環能力。


未來,移遠通信將持續深化算力平臺迭代,推出 80 – 100 TOPS 甚至更高算力的智能模組,結合場景化算法優化,將 AI 大模型的能力拓展至更廣泛的端側 AI 場景。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人機交互
    +關注

    關注

    12

    文章

    1294

    瀏覽量

    58043
  • AI
    AI
    +關注

    關注

    91

    文章

    40448

    瀏覽量

    302071
  • 移遠通信
    +關注

    關注

    6

    文章

    846

    瀏覽量

    20917
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    模型上車:從“語音助手”到“車內 AI 智能體”的躍遷革命

    2025年,智能汽車的座艙不再只是“語音助手”的舞臺,而是一個搭載生成式AI和大語言模型(LLM)的智能體。從云端示范到車內落地,這一跨越不僅改變了人機交互的邊界,更重構了汽車作為“第
    的頭像 發表于 01-13 09:10 ?586次閱讀

    重構未來自適應人機交互的創新技術

    人機交互的概念可以追溯到工業革命時期,在當時機器開始取代人類勞動。然而,直到20世紀中葉,人機交互領域才受到廣泛關注。人機界面(HMI)是人與機器之間
    的頭像 發表于 10-31 16:30 ?1391次閱讀
    <b class='flag-5'>重構</b>未來自適應<b class='flag-5'>人機交互</b>的創新技術

    模型驅動下的人機交互革命,“超擬真人互動”?讓玩具讀懂你的情緒

    ,全方位重構了智能硬件的人機交互范式,為行業提供了從技術底層到商業應用的完整路徑。 ? 從人機交互的技術演進邏輯來看,經歷了文本交互(CUI)、圖像
    的頭像 發表于 10-31 09:21 ?6524次閱讀
    大<b class='flag-5'>模型</b>驅動下的<b class='flag-5'>人機交互</b><b class='flag-5'>革命</b>,“超擬真人互動”?讓玩具讀懂你的情緒

    × 高通:從開源生態到場景驗證,共筑AI新生態

    8月26日,以“更開源更智能”為主題的2025高通&通信智能物聯網技術開放日在深圳成功舉辦。這場技術盛會由高通公司與
    的頭像 發表于 08-26 21:52 ?1085次閱讀
    <b class='flag-5'>移</b><b class='flag-5'>遠</b> × 高通:從開源生態到場景驗證,共筑<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>新生態

    通信飛鳶AIoT大模型應用算法成功通過備案

    AI領域的深厚技術積累與行業領先地位。 "飛鳶AIoT大模型應用算法"面向企業客戶,聚焦對話生成場景,能夠基于用戶輸入音頻,生成相應的音頻回復。目前,該算法已依托
    的頭像 發表于 08-06 08:48 ?981次閱讀
    <b class='flag-5'>移</b><b class='flag-5'>遠</b><b class='flag-5'>通信</b>飛鳶AIoT大<b class='flag-5'>模型</b>應用算法成功通過備案

    云+多模態”新范式:《通信AI模型技術方案白皮書》正式發布

    7月28日,通信聯合智次方研究院正式發布《AI模型技術方案白皮書》(以下簡稱“白皮書”)。這份白皮書系統梳理了
    的頭像 發表于 07-28 13:08 ?1325次閱讀
    “<b class='flag-5'>端</b>云+多模態”新范式:《<b class='flag-5'>移</b><b class='flag-5'>遠</b><b class='flag-5'>通信</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>技術方案白皮書》正式發布

    模型迎來“輕”革命通信 × RWKV 打造“輕量AI大腦”

    7月27日,通信宣布與RWKV公司建立全面合作關系,雙方將依托的算力平臺,優化并支持RWKV最新
    的頭像 發表于 07-27 19:02 ?1077次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側</b>大<b class='flag-5'>模型</b>迎來“輕”<b class='flag-5'>革命</b>!<b class='flag-5'>移</b><b class='flag-5'>遠</b><b class='flag-5'>通信</b> × RWKV 打造“輕量<b class='flag-5'>AI</b>大腦”

    會認路、能嘮嗑!這套方案,讓 AI 機器人服務力直接拉滿

    AR01+AI人機交互平板P1+部署工具套件”四大模塊組成,搭載“智能+云端大模型”協同架構,憑借高精度自主導航系統、自然語言智能語音
    的頭像 發表于 07-26 19:04 ?931次閱讀
    會認路、能嘮嗑!<b class='flag-5'>移</b><b class='flag-5'>遠</b>這套方案,讓 <b class='flag-5'>AI</b> 機器人服務力直接拉滿

    媒體報道 | 錨定“AI+機器人”,又有大動作!

    隨著AI算力的指數級突破與大模型輕量化部署技術的快速成熟,“
    的頭像 發表于 07-11 19:05 ?1013次閱讀
    媒體報道 | 錨定“<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>+機器人”,<b class='flag-5'>移</b><b class='flag-5'>遠</b>又有大動作!

    AI到全鏈路解決方案:通信如何重塑AloT產業?

    的物聯網整體解決方案供應商,通信受邀出席峰會并發表兩場演講,圍繞AI、云端
    的頭像 發表于 07-05 19:04 ?1825次閱讀
    從<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>到全鏈路解決方案:<b class='flag-5'>移</b><b class='flag-5'>遠</b><b class='flag-5'>通信</b>如何重塑AloT產業?

    LLaVA、RWKV、Qwen3... 遠端AI模型解決方案實現多維度躍遷

    AI以破竹之勢席卷千行百業,大模型技術正以驚人的速度迭代演進,重塑著智能世界的底層邏輯。作為全球AIoT行業的引領者,通信通過持續迭代
    的頭像 發表于 06-23 19:07 ?1010次閱讀
    LLaVA、RWKV、Qwen3... <b class='flag-5'>移</b>遠端<b class='flag-5'>側</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案實現多維度躍遷

    從機械應答到深度交互通信如何讓機器人“靈魂覺醒”?

    通信率先推出了云混合大模型機器人大腦解決方案中,圍繞
    發表于 05-21 13:46 ?1282次閱讀
    從機械應答到深度<b class='flag-5'>交互</b>,<b class='flag-5'>移</b><b class='flag-5'>遠</b><b class='flag-5'>通信</b>如何讓機器人“靈魂覺醒”?

    通信攜手高通舉辦“2025 高通邊緣智能創新應用大賽”,助力開發者探索AI創新潛能

    覆蓋高性能AI模組、AI模型和云端協同的一站式AI解決方案。為進一步推動邊緣智能技術的創新
    的頭像 發表于 04-20 08:07 ?1220次閱讀
    <b class='flag-5'>移</b><b class='flag-5'>遠</b><b class='flag-5'>通信</b>攜手高通舉辦“2025 高通邊緣智能創新應用大賽”,助力開發者探索<b class='flag-5'>AI</b>創新潛能

    聲學技術如何重構人機交互生態

    人機交互的底層邏輯。隨著非線性聲學計算與強化學習的深度融合,聲音交互正從“聽得見”邁向“聽得懂”,并逐漸成為 AI 時代的重要接口。
    的頭像 發表于 04-14 13:50 ?1577次閱讀

    通信重磅發布“模音云犀”解決方案:賦能萬物智聯,開啟AI模型普惠時代

    當DeepSeek引爆全球AI熱潮,當大模型成為數字時代的新質生產力,如何讓更多終端設備擁有“智能大腦”?云端AI模型在其中扮演著至關重要的角色。 4月9日,
    發表于 04-10 11:06 ?1193次閱讀
    <b class='flag-5'>移</b><b class='flag-5'>遠</b><b class='flag-5'>通信</b>重磅發布“模音云犀”解決方案:賦能萬物智聯,開啟<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>普惠時代