動態

• 發布了文章 2025-12-10 08:34

  PowerVR上的LLM加速：LLM性能解析

  

  作者：AlexPim，Imagination軟件架構Fellow在Imagination，我們致力于加速大語言模型在日常設備上的運行。在本系列關于大語言模型性能與加速的兩篇博客的首篇中，我們將介紹關鍵性能指標：首次生成Token時間（TTFT）與Token間延遲（ITL）。在下一篇文章中，我們將分享如何在ImaginationGPU上實現高效的Llama.c

  AI LLM powervr

  319瀏覽量

• 發布了文章 2025-12-09 13:56

  一文讀懂LSTM與RNN：從原理到實戰，掌握序列建模核心技術

  

  在AI領域，文本翻譯、語音識別、股價預測等場景都離不開序列數據處理。循環神經網絡（RNN）作為最早的序列建模工具，開創了“記憶歷史信息”的先河；而長短期記憶網絡（LSTM）則通過創新設計，突破了RNN的核心局限。今天，我們從原理、梯度推導到實踐，全面解析這兩大經典模型。一、基礎鋪墊：RNN的核心邏輯與痛點RNN的核心是讓模型“記住過去”——通過隱藏層的循環連

  LSTM rnn 神經網絡

  1.4k瀏覽量

• 發布了文章 2025-12-05 14:35

  為啥 AI 計算速度這么驚人？—— 聊聊 GPU、內存與并行計算

  

  提到AI，大家常說它“算得快”，其實是指AI能在眨眼間處理海量數據?？伤鼮樯队羞@本事？答案就藏在“GPU+高速內存+并行計算”這trio（組合）里。咱們可以把AI要處理的數據，想象成一大堆“小任務”。比如一張圖片里的每個像素、一段語音里的每段聲波、一句話里的每個詞，都得單獨拿出來計算。而且這些任務可不是幾十個，而是幾百萬、幾億甚至更多，數量特別驚人。CPUG

  AI gpu 內存 并行計算

  875瀏覽量

• 發布了文章 2025-12-04 11:29

  為云游戲打造定制顯卡

  

  根據GrandviewResearch的預測，到2030年全球云游戲市場將超過200億美元，其中亞太地區將占據約45%的市場機會。然而，目前主流的GPU解決方案主要是為數據中心計算而設計的，并不適用于云游戲獨特的經濟模型。云游戲的盈利能力依賴于在保持高質量用戶體驗的前提下，每顆GPU能支持的高并發用戶數量。對于正在開發云游戲硬件的公司而言，選擇合適的GPUI

  云游戲 顯卡

  479瀏覽量

• 發布了文章 2025-12-03 14:45

  汽車中的GPU是如何使用的？

  

  （HMI）的發展尤為迅猛。隨著電子電氣架構（EEA）的集中化，車輛對高性能計算能力的需求顯著提升，GPU（圖形處理單元）的靈活性、可擴展性以及高效并行計算能力，使其成為支持這些創新應用的核心組件。我們從GPU在汽車中的應用場景及其具體需求出發，深入探討了GPU對汽車行業發展的影響，并對未來趨勢提出了關鍵判斷。1、GPU計算在汽車中的應用場景GPU在汽車領域的

  gpu 自動駕駛

  9.6k瀏覽量

• 發布了文章 2025-12-02 15:07

  并行智能體：洞察復雜系統的 14 種并發設計模式

  

  在AI智能體的世界中，速度、質量和可靠性不僅僅是特性，它們是必備條件。一個單一、順序執行的智能體可能速度慢、容易出錯，并且解決問題的能力有限。解決方案是采用并行思維：設計一個系統，讓多個智能體、流程或任務可以同時執行，以實現共同的目標。大規模的智能體系統通常受到兩個主要因素的瓶頸：I/O延遲：等待網絡、數據庫和外部API調用。質量與可靠性：單一的推理路徑可能

  AI 復雜系統 智能體

  605瀏覽量

• 發布了文章 2025-12-01 10:12

  如何通過交替式幾何處理實現更優的多核 GPU 擴展

  

  在理論上，通過增加更多GPU核心來提升性能似乎很簡單：核心越多，性能越強。但在實踐中，這是圖形架構領域最棘手的挑戰之一。雖然某些工作負載因其獨立特性能實現良好擴展，但另一些工作負載（尤其是幾何處理）會引入順序依賴性，使得線性性能擴展成為業界所有GPU架構都難以攻克的難題。為什么多核GPU性能擴展如此困難？現代GPU的優勢來自高度并行化，但并不是所有任務都能做

  API gpu imagination

  653瀏覽量

• 發布了文章 2025-11-28 08:33

  一文看懂AI大模型的并行訓練方式（DP、PP、TP、EP）

  

  大家都知道，AI計算（尤其是模型訓練和推理），主要以并行計算為主。AI計算中涉及到的很多具體算法（例如矩陣相乘、卷積、循環層、梯度運算等），都需要基于成千上萬的GPU，以并行任務的方式去完成。這樣才能有效縮短計算時間。搭建并行計算框架，一般會用到以下幾種常見的并行方式：DataParallelism，數據并行PipelineParallelism，流水線并行

  AI大模型 DP ep pp TP

  1.9k瀏覽量

• 發布了文章 2025-11-27 09:18

  Imagination亮相Aspencore CEO Summit：E系列GPU實力獲獎，深度參與行業對話

  

  11月25日Imagination受邀參加AspencoreCEOSummit。在這場匯聚行業領袖與技術先鋒的年度盛會上，我們帶來了兩大亮點：ESeriesGPU榮獲“Aspencore年度EDA/IP”大獎參與高峰圓桌論壇，分享對數模融合與計算創新的洞察本次參與，不僅展示了ESeriesGPU的架構優勢，也為我們在EdgeAI方向的技術布局建立了更豐富的交

  AI gpu imagination

  570瀏覽量

• 發布了文章 2025-11-26 13:56

  Imagination中國區董事長兼亞太區總裁白農：通用計算GPU驅動端側AI發展

  

  11月23日，第二十二屆中國國際半導體博覽會（ICChina2025）在北京國家會議中心開幕。在同期舉辦第七屆全球IC企業家大會上，Imagination中國區董事長兼亞太區總裁白農在演講時表示，通用計算GPU正成為驅動端側AI發展的重要引擎。當前，端側AI算力迎來爆發式增長，端側芯片需承載感知數據處理、圖像渲染、AI大模型計算、安全、通信等多元需求，面臨硅

  AI gpu imagination

  583瀏覽量