·Ensemble E4/E6/E8是業(yè)界首個(gè)為Transformer網(wǎng)絡(luò)提供硬件加速的MCU系列,可在邊緣設(shè)備及終端設(shè)備上實(shí)現(xiàn)本地生成式AI推理
·Alif與Arm合作,在PyTorch大會(huì)上展示了經(jīng)ExecuTorchRuntime編譯的生成式AI模型,該模型可在Ensemble E8上運(yùn)行
中國(guó),北京–2025年11月4日-全球領(lǐng)先的安全、聯(lián)網(wǎng)、高能效人工智能與機(jī)器學(xué)習(xí)(AI/ML)微控制器(MCU)及融合處理器供應(yīng)商Alif Semiconductor?今日宣布,開(kāi)發(fā)者現(xiàn)可將PyTorch ML框架的量化擴(kuò)展ExecuTorchRuntime用于基于其Ensemble E4/E6/E8系列MCU及融合處理器開(kāi)發(fā)的AI應(yīng)用。
ExecuTorch擴(kuò)展可幫助面向微控制器等資源受限硬件平臺(tái)的AI模型開(kāi)發(fā)者,借助PyTorch框架打造輕量級(jí)模型,支持低延遲、高精度推理。由于Ensemble E4、E6和E8系列產(chǎn)品均搭載支持Transformer式ML網(wǎng)絡(luò)的Arm? Ethos?-U85 NPU,開(kāi)發(fā)者如今可通過(guò)PyTorch與ExecuTorchRuntime,構(gòu)建能在電池供電終端設(shè)備上本地運(yùn)行的生成式AI應(yīng)用,涵蓋智能眼鏡、人機(jī)交互設(shè)備、醫(yī)療健康與診斷設(shè)備、機(jī)器人、交通設(shè)備、益智玩具與教育產(chǎn)品、智能家居及智慧城市設(shè)備等場(chǎng)景。

在PyTorch大會(huì)(10月22-23日,美國(guó)加利福尼亞州舊金山市Moscone West)上,Arm展示了經(jīng)ExecuTorch編譯、可在Alif Ensemble E8融合處理器上運(yùn)行的生成式AI應(yīng)用案例,包括:
·一款運(yùn)行于Ensemble E8的小型語(yǔ)言模型,可根據(jù)視覺(jué)提示生成適合兒童的故事,還可擴(kuò)展至支持語(yǔ)音提示。
·實(shí)時(shí)設(shè)備端語(yǔ)音轉(zhuǎn)文字模型,適用于集成到智能眼鏡等可穿戴設(shè)備,能實(shí)現(xiàn)語(yǔ)音實(shí)時(shí)轉(zhuǎn)錄以生成實(shí)時(shí)字幕。
Alif Semiconductor總裁Reza Kazerounian表示:“Alif通過(guò)持續(xù)創(chuàng)新始終處于邊緣AI領(lǐng)域的前沿,如今更延伸至生成式AI時(shí)代。我們的Ensemble系列微控制器對(duì)ExecuTorchRuntime的原生支持,進(jìn)一步拓展了MCU級(jí)AI的應(yīng)用邊界。對(duì)于致力于打造下一代智能產(chǎn)品的嵌入式設(shè)備制造商而言,Alif仍是將AI技術(shù)落地邊緣端的可靠引領(lǐng)者。”
Arm高級(jí)副總裁兼IoT業(yè)務(wù)總經(jīng)理Paul Williamson表示:邊緣生成式AI正催生全新品類的智能電池供電設(shè)備,這類設(shè)備可實(shí)時(shí)理解并響應(yīng)環(huán)境交互。借助ExecuTorch框架,開(kāi)發(fā)者能高效地將PyTorch模型部署到Alif Ensemble MCU上,實(shí)現(xiàn)低功耗設(shè)備端推理。此次合作充分證明,統(tǒng)一生態(tài)系統(tǒng)可推動(dòng)邊緣智能的規(guī)模化應(yīng)用,加速實(shí)際場(chǎng)景中的AI創(chuàng)新。”
PyTorch大會(huì)演示中所用的Alif DK-E8開(kāi)發(fā)板現(xiàn)已開(kāi)放購(gòu)買,該開(kāi)發(fā)板支持整個(gè)E4/E6/E8系列的開(kāi)發(fā)工作。
關(guān)于Alif Semiconductor:
Alif Semiconductor是業(yè)界領(lǐng)先的下一代安全支持AI/ML的32位微控制器供應(yīng)商。自2019年成立以來(lái),Alif通過(guò)不斷擴(kuò)展的微控制器和融合處理器產(chǎn)品,徹底改變了開(kāi)發(fā)人員創(chuàng)建廣泛、可擴(kuò)展和互聯(lián)的AI嵌入式應(yīng)用程序的方式,并確保這些應(yīng)用程序的真正節(jié)能。Alif Semiconductor是節(jié)能微控制器領(lǐng)域的唯一選擇,可以為由電池供電的物聯(lián)網(wǎng)設(shè)備處理繁重的AI和ML工作負(fù)載。
-
微控制器
+關(guān)注
關(guān)注
48文章
8375瀏覽量
164552 -
mcu
+關(guān)注
關(guān)注
147文章
18924瀏覽量
398060
發(fā)布評(píng)論請(qǐng)先 登錄
直播有禮 | 瑞薩邊緣AI線上技術(shù)月——AI MCU/MPU產(chǎn)品及邊緣AI案例集
【今晚7點(diǎn)半】正點(diǎn)原子 x STM32:智能加速邊緣AI應(yīng)用開(kāi)發(fā)!今晚正點(diǎn)原子B站直播間等你
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)
睿海光電800G光模塊助力全球AI基建升級(jí)
Alif Semiconductor發(fā)布支持生成式AI的MCU基準(zhǔn)測(cè)試結(jié)果,鞏固其在邊緣AI領(lǐng)域的領(lǐng)先地位
為何邊緣設(shè)備正成為AI的新重心
Nordic收購(gòu) Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析
邊緣生成式AI面臨哪些工程挑戰(zhàn)?
從Gartner報(bào)告看Atlassian在生成式AI領(lǐng)域的創(chuàng)新路徑與實(shí)踐價(jià)值
Synaptics發(fā)布高性能AI MCU,推動(dòng)邊緣計(jì)算新突破
Alif Semiconductor的Ensemble MCU新增對(duì)ExecuTorch Runtime的支持,助力其推動(dòng)邊緣生成式AI發(fā)展
評(píng)論