谷歌近日為其Android上的TensorFlow框架開發了新的基于OpenCL的移動GPU推理引擎,與現有的OpenGL后端相比,新的推理引擎速度是前者的2倍。
OpenGL是一種渲染圖形API,其應用已近30年之久,目前常用的GPU推理引擎均是以OpenGL開發。雖然在?OpenGL?ES?3.1中新增了計算著色器Compute?Shader,但TensorFlow團隊表示,向后兼容的設計限制了GPU的運算能力。
而OpenCL從一開始就是為使用各種計算加速而設計的,因此更為適合移動GPU推理領域。這促使TensorFlow團隊對基于OpenCL的移動推理引擎進行了考察,并最終決定采用該引擎。TFLite開發團隊提到,與OpenGL相比,最佳化OpenCL后端要簡單許多,因為OpenCL提供良好的分析功能,利用概要分析API,開發團隊能夠精確地量測核心調度效能。
值得一提的是,這一推理引擎具有完整的效能分析功,也就是說優化器會選擇適合大小的神經網絡工作組以提高GPU的效率。且原生支持FP16,即使在比較老舊的GPU硬件上,如2012年的Adreno?305也可完美發揮出GPU的效能。
責任編輯:pj
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
谷歌
+關注
關注
27文章
6254瀏覽量
111414 -
gpu
+關注
關注
28文章
5194瀏覽量
135483 -
硬件
+關注
關注
11文章
3595瀏覽量
69020
發布評論請先 登錄
相關推薦
熱點推薦
深度解析ES8389/ES8390/音頻芯片Linux驅動(Linux6.1內核)
? ? ? 在嵌入式音頻開發中,順芯( Everest ) ES8389/ES8390 是一款高集成度的音頻 Codec 芯片,廣泛應用于智能音箱、車載終端、便攜設備等場景。本文
看點:谷歌Veo 3.1迎來重大更新硬剛Sora 2 12英寸硅片國產龍頭西安奕材今日申購
給大家帶來一些業界資訊: 谷歌Veo 3.1迎來重大更新硬剛Sora 2 據外媒報道,在10月16日,谷歌發布了AI視頻生成模型Veo
Imagination GPU 驅動更新:新增多項 Vulkan 與 OpenCL 擴展支持
整理了本次更新的重點內容。Vulkan協作矩陣(CooperativeMatrix)支持為加速圖形后處理、神經著色器、物理仿真以及GPU上的機器學習推理,DDK25
Bourns發布全新增量式微型編碼器
Bourns 推出 PEC04 系列 4 mm 增量式微型編碼器、PEC05 PEC05 系列 5 mm 增量式微型編碼器,以及 PEC06 型號 6 mm 增量式微型編碼器。Bourns 全
蔚來全新ES8掉頭能有多敏捷
隨著全新ES8媒體試駕及用戶試駕的持續進行,有許多朋友表示:“全新ES8作為中國最大的純電SUV,開起來卻沒有傳統大車的笨重感”。這正是智能敏捷掉頭功能的功勞,也是蔚來全棧自研能力的顯
【M-K1HSE開發板免費體驗】相關源碼之閱讀和分析1-使用XComponent + Vsync 實現自定義動畫
NAPI 調用 C++ 層的功能。
src/main/cpp (C++ Native 后端層)
render: 渲染核心模塊。負責所有與 OpenGL ES 相關的操作,如初始化EGL環境、編譯著色器
發表于 09-03 16:05
全新蔚來ES8采用隆利科技Mini-LED背光技術
近日,蔚來全新ES8預售發布,該車型1.4米長SKYLine雙24英寸數字天際線屏及21.4英寸娛樂吸頂屏均搭載了隆利科技的Mini-LED背光技術。
關于蔚來全新ES8的產品理念
還有不到一周,全新ES8就要和大家正式見面了。很多朋友都在給我發消息,詢問關于這款重磅產品的更多信息。由衷地感謝大家的關心,我覺得也該好好和大家聊聊全新
全新原裝福祿克FLUKE754過程校驗儀
,可以輸出、模擬和測量壓力、溫度和電信號。改進的全新圖形屏幕、使用壽命更長的鋰離子電池、USB 端口以及軟件包中新增的附件定會博取您的衷愛。
對于記錄功能,754 熱工信號校驗儀可自動執行校準程序并
發表于 07-24 10:45
貿澤開售適用于AI和嵌入式應用的 全新Raspberry Pi Compute Module 5
醫療監控和其他嵌入式應用的功能。 ? Raspberry Pi CM5搭載了BCM2712四核Cortex? -A76 (Arm? v8) 64位片上系統 (SoC) 和VideoCore VII GPU,并支持OpenGL ES
發表于 03-24 15:09
?535次閱讀
谷歌在全新OpenGL?ES?3.1中新增了計算著色器Compute?Shader
評論