国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

嵌入式芯片中神經網絡加速器如何支持本地化AI處理

454398 ? 來源:ST社區 ? 作者:ST社區 ? 2022-12-20 18:25 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

來源:ST社區

GPU和NNA(神經網絡加速器)正在迅速成為AI應用的關鍵要素。隨著不同企業開始挖掘神經網絡在各種任務(比如自然語言處理、圖片分類)中的潛力,集成人工智能元素的產品數量正在穩步的增長。與此同時,對于這些任務的處理也正在從傳統的云端架構轉移到設備本身上來,嵌入式芯片中集成了專用的神經網絡加速器,可支持本地化AI處理。例如先進的駕駛輔助系統(ADAS)能夠實時監控前方道路,還有集成語音識別類功能的消費電子產品,比如虛擬助理。基于神經網絡的AI應用正在多個細分市場不斷擴大。

Imagination公司的業務是為芯片設計提供必要的內核組件,我們在嵌入式圖形處理器(GPU)和神經網絡加速器(NNA)技術方面聞名,我們將這些技術授權給世界領先的芯片供應商。他們的產品被廣泛應用在多個產品和服務中,因此Imagination在市場上占有著獨特的位置,我們使得整個生態系統都能夠參與到AI的發展中來。

不可否認,AI在很多應用中都是至關重要的,但是也有很多的挑戰。其中之一就是協調好終端設備和云服務器之間的處理負載,將AI處理操作放在最佳的位置來完成。例如在消費者終端設備上進行本地化AI語音識別;對于“喚醒”指令或其他簡單指令,因為本地設備無法存儲龐大的知識數據庫,要利用這些數據就必須在云服務器中實現很大一部分AI處理操作。目前的情況是很多市場上銷售的產品都帶有AI功能,但實際上它們只是在本地進行簡單的模式匹配和識別,然后依賴云服務器完成進一步的AI處理。

這種情況將會逐漸改變,隨著芯片工藝技術變得更加普遍,嵌入式神經網絡加速器(NNA)將會變得幾乎和CPU一樣無處不在,這為在終端設備中提高人工智能處理能力創造了機會。例如我們希望看到智能安防攝像頭能夠熟練的監控特定事件,不再局限于簡單的錄像,使用終端設備AI功能來處理識別視野內的一些特征,比如道路上的車輛或人群中的面孔。這也會衍生一些其他功能,比如確定車輛的制造商和型號、或者是某些人獲得授權。輸入結果可能不是可識別的視頻內容,可能只是描述這些結果的原始數據。將人工智能嵌入到安防攝像頭中甚至可以減少不靠譜情況的發生從而降低成本,因為攝像頭內的AI功能可以識別正常行為與可疑行為之間的區別。

雖然人工智能的應用數量在不斷增加,但這并不意味著集成神經網特性的單個SoC是所有應用場景的發展方向。如果我們考慮讓人工智能涉及大部分細分市場,由于使用該技術的產品在加工要求上有很大的不同,自然會出現多樣化。分散的市場很難與通用的應用處理器一起結合使用,例如那些集成了NNA器件和GPU的處理器,事實上,“一刀切”的方式并不總是適用的。

雖然一些市場為SoC供應商提供了大量的機會,比如智能手機、汽車ADAS等,但是許多以使用AI為目標的市場需求量并不是很大。值得注意的是,一些產品可能需要人工智能來進行語音處理或圖像識別,但并非兩者都需要:智能照明系統供應商不太可能使用最初為智能手機而設計的SoC,僅僅是為了將人工智能引入到其應用中,這并不符合成本效益。解決這個問題的方法是創建專門的人工智能芯片,與主應用處理器一起作為配套芯片使用,這些器件可以承擔原來由主應用處理器上的NNA核心來處理的AI任務,這具有明顯的優勢:SoC供應商可以提供一系列具有不同性能水平的終端AI器件;此外,OEM廠商還可以根據他們的期望在特定應用中處理AI任務,提供多個選項來適當的擴展或縮減產品解決方案。

那么人工智能市場將走向何方?我預計人們對人工智能的興趣和需求都將繼續增長,事實上,支撐這一目標的技術不斷變得成熟。相反,幾乎可以肯定的是,人們會意識到人工智能并不是解決所有問題的答案,炒作現象可能會有所減弱,許多公司也會轉移注意力。他們將會利用人工智能的潛力來增強系統的能力,但是人工智能未必是這些系統的運行核心。

更進一步說,真正的人工智能——機器擁有意識,能夠基于認知推理作出決策——這還需要10年或更長的時間。這意味著云互連在未來很多年都將至關重要,它不僅能提供必要的大規模并行計算資源(可能是通過量子機器),還能提供巨大的數據存儲,人工智能依靠這些數據來理解周圍的世界。更高帶寬的通信技術有望在2019年問世,尤其是5G和802.11ax標準,因此相信云AI架構和互連帶寬都將相應擴大。

PowerVR Series2NX架構

對于真正處于前沿的人工智能,我們需要構想出創新的方法來提高晶體管在硅片上的封裝密度,同時使其既具有通過學習獲得知識的能力又具備所需的推理技能,從而設計全新的SoC器件。

Imagination公司希望為芯片供應商提供關鍵的核心技術,從而構建世界領先的人工智能解決方案。PowerVR GPU提供了高性能的GPU計算能力,用于處理AI中的可視化操作,比如圖像識別和排序、手勢識別驅動接口以及實時視頻分析等。PowerVR NNA(神經網絡加速器)是任何前沿人工智能解決方案的核心,為高級推理和邊緣數據處理提供必要的硬件加速。我們的GPU和NNA能夠為高性能的AI處理提供一切必要的技術并使硅芯片獲得優勢。

人工智能的未來正在變得清晰…但是當它完成某些任務花費的時間比我們預期的時間要長時大家不要感到驚訝。

審核編輯 黃昊宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    463

    文章

    54009

    瀏覽量

    465969
  • 嵌入式
    +關注

    關注

    5198

    文章

    20445

    瀏覽量

    333996
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    面向嵌入式部署的神經網絡優化:模型壓縮深度解析

    更多參數、每次推理需要更多算術運算,使其難以部署在嵌入式硬件上。 對于嵌入式系統而言,資源極其有限。內存空間受限,因此在桌面或云平臺上輕松運行的模型可能無法放入芯片內的閃存。此外,較高的運算量(MACs/FLOPs)和推理延
    的頭像 發表于 02-24 15:37 ?4651次閱讀
    面向<b class='flag-5'>嵌入式</b>部署的<b class='flag-5'>神經網絡</b>優化:模型壓縮深度解析

    重磅合作!Quintauris 聯手 SiFive,加速 RISC-V 在嵌入式AI 領域落地

    (ADAS); 嵌入式平臺的 AI 與機器學習加速器; 工業物聯網與自動系統(開放標準架構的優勢能充分發揮)。 對咱們開發者來說,這波合作最大的好處就是能拿到集成
    發表于 12-18 12:01

    NMSIS神經網絡庫使用介紹

    NMSIS NN 軟件庫是一組高效的神經網絡內核,旨在最大限度地提高 Nuclei N 處理器內核上的神經網絡的性能并最??大限度地減少其內存占用。 該庫分為多個功能,每個功能涵蓋特定類別
    發表于 10-29 06:08

    SNN加速器內部神經元數據連接方式

    的數量級,而且生物軸突的延遲和神經元的時間常數比數字電路的傳播和轉換延遲要大得多,AER 的工作方式和神經網絡的特點相吻合,所以受生物啟發的神經形態處理器中的NoC或SNN
    發表于 10-24 07:34

    CICC2033神經網絡部署相關操作

    讀取。接下來需要使用擴展指令,完成神經網絡的部署,此處僅對第一層卷積+池的部署進行說明,其余層與之類似。 1.使用 Custom_Dtrans 指令,將權重數據、輸入數據導入硬件加速器內。對于權重
    發表于 10-20 08:00

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+神經形態計算、類腦芯片

    AI芯片不僅包括深度學細AI加速器,還有另外一個主要列別:類腦芯片。類腦芯片是模擬人腦
    發表于 09-17 16:43

    神經網絡的并行計算與加速技術

    問題。因此,并行計算與加速技術在神經網絡研究和應用中變得至關重要,它們能夠顯著提升神經網絡的性能和效率,滿足實際應用中對快速響應和大規模數據處理的需求。
    的頭像 發表于 09-17 13:31 ?1124次閱讀
    <b class='flag-5'>神經網絡</b>的并行計算與<b class='flag-5'>加速</b>技術

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實現深度學習AI芯片的創新方法與架構

    Transformer和視覺Transformer模型。 ViTA是一種高效數據流AI加速器,用于在邊緣設備上部署計算密集型視覺Transformer模型。 2、射頻神經網絡 2.1線性射頻模擬
    發表于 09-12 17:30

    Andes晶心科技推出新一代深度學習加速器

    高效能、低功耗 32/64 位 RISC-V 處理器核與 AI 加速解決方案的領導供貨商—Andes晶心科技(Andes Technology)今日正式發表最新深度學習加速器 Ande
    的頭像 發表于 08-20 17:43 ?2330次閱讀

    MAX78000采用超低功耗卷積神經網絡加速度計的人工智能微控制技術手冊

    的Maxim超低功耗微控制相結合。通過這款基于硬件的卷積神經網絡(CNN)加速器,即使是電池供電的應用也可執行AI推理,同時功耗僅為微焦耳級。
    的頭像 發表于 05-08 11:42 ?985次閱讀
    MAX78000采用超低功耗卷積<b class='flag-5'>神經網絡</b><b class='flag-5'>加速</b>度計的人工智能微控制<b class='flag-5'>器</b>技術手冊

    MAX78002帶有低功耗卷積神經網絡加速器的人工智能微控制技術手冊

    的Maxim超低功耗微控制相結合。通過這款基于硬件的卷積神經網絡(CNN)加速器,即使是電池供電的應用也可執行AI推理,同時功耗僅為微焦耳級。
    的頭像 發表于 05-08 10:16 ?844次閱讀
    MAX78002帶有低功耗卷積<b class='flag-5'>神經網絡</b><b class='flag-5'>加速器</b>的人工智能微控制<b class='flag-5'>器</b>技術手冊

    ETAS全新的嵌入式AI解決方案

    “將訓練后的AI神經網絡模型,自動化生成安全且高效的C代碼,用于嵌入式系統” ,近日ETAS攜全新的智能化工具Embedded AI Coder亮相2025上海國際車展。
    的頭像 發表于 05-07 11:43 ?2039次閱讀
    ETAS全新的<b class='flag-5'>嵌入式</b><b class='flag-5'>AI</b>解決方案

    【「芯片通識課:一本書讀懂芯片技術」閱讀體驗】從deepseek看今天芯片發展

    的: 神經網絡處理器(NPU)是一種模仿人腦神經網絡的電路系統,是實現人工智能中神經網絡計算的專用處理器,主要用于人工智能深度學習模型的
    發表于 04-02 17:25

    Banana Pi 發布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發

    RZ/V2N——近期在嵌入式世界2025上新發布,為 AI 計算、嵌入式系統及工自動提供強大支持。這款全新的計算平臺旨在滿足開發者和企業用
    發表于 03-19 17:54

    嵌入式AI加速器DRP-AI 詳細介紹

    深度神經網絡中使用的人工智能(AI)已經為IT領域提供了新的價值。雖然很多人期望用AI來實現嵌入式應用,但AI
    的頭像 發表于 03-15 16:13 ?1804次閱讀
    <b class='flag-5'>嵌入式</b><b class='flag-5'>AI</b><b class='flag-5'>加速器</b>DRP-<b class='flag-5'>AI</b> 詳細介紹