国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Kinara發布Ara-2邊緣AI處理器,實現高效、經濟、節能的推理性能

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-19 11:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Kinar于近期發布了Ara-2邊緣AI處理器,這是一款專為邊緣服務器及筆記本電腦打造的高性能、高效能且節能推理解決方案,尤其適用于視頻分析、大規模語言模型(LLM)在內的各類AI應用。值得注意的是,Ara-2也能夠良好適應傳統AI模型和基于Transformer架構的尖端AI模型,其所具備的體驗式增強功能集使得Ara-2的性能較初代的Ara-1處理器有顯著提升,可達成超過5至8倍的增長,將實時響應能力與大吞吐量相結合,從而達致高度精煉的延遲優化設計和均衡性能。

生成式AI現已成為主流,然而大多數此類應用卻在數據中心GPU上運行,由此引發的延遲、高成本以及隱私問題亟待解決。Ara-2順應時代變化,貼心支持生成式AI模型所需引導的數十億個參數,為跨境轉移提供便利。同時,為了更順暢地完成從GPU至各個AI模型的過度,其內建的計算引擎以及軟件開發套件(SDK)均為此進行定制搭建。

“Ara-2的誕生使得我們有能力根據客戶需求提供更高性能和成本選擇。如Ara-1,其專為智能相機及具有2至8路視頻流的邊緣AI設備而生;而Ara-2則特別擅長處理針對16至32路甚至更多視頻流的底層邊緣服務器或筆記本電腦,且與高端相機完美兼容?!?Kinara首席執行官Ravi Annavajjhala對此表示?!敖柚冗M的計算引擎,Ara-2能夠快速處理高清圖像,有效提升精度,實現更高水平的對象檢視、識別及追蹤。例如,針對生成式AI模型,Stable Diffusion每10秒即可生成一幅圖片,LLaMA-7B則可達到每秒幾十個token的處理速率。”

據悉,Ampere將在10月份容忍Kinar加入其人工智能平臺聯盟,共同致力于降低系統復雜度,推動人工智能進一步提升協同工作能力和開放性,目標在于提供比GPU更優的總體性能,同時兼顧吞吐量、功率和成本效益。該團隊的首席布道師Sean Varley認為:“ ARA-2展現的性能和功能集讓我堅定朝這個方向發展,助力行業推出性能更優且與現有GPU技術相匹敵的AI替代方案。”

除此之外,Ara-2還秉持著安全啟動、加密內存訪問以及安全主控接口等特性,確保企業AI部署擁有更高的安全性。Kinar亦為之提供全套的SDK支持,囊括模型編譯器、計算單元調度程序、靈活的量化選項(含內置的Kinar量化器)以及對PyTorch和TFLite預量化模型的支持、多芯片負荷均衡器系統與動態調節主控運行等諸多要素。

Ara-2提供獨立設備、USB模塊、M.2模塊以及多個Ara-2組成的PCIe卡等豐富形式供消費者選擇。 Kinara計劃在CES上現場展示這款備受矚目的Ara-2產品。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5199

    瀏覽量

    135527
  • 數據中心
    +關注

    關注

    18

    文章

    5658

    瀏覽量

    75045
  • 生成式AI
    +關注

    關注

    0

    文章

    538

    瀏覽量

    1092
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    邊緣AI算力臨界點:深度解析176TOPS香橙派AI Station的產業價值

    了設備在產業分工中的身位。OrangePi AI Station采用的昇騰310****P 處理器 ,構建了一套完整的異構計算體系: 1、 16核CPU (ARM架構,主頻1.9GHz):負責復雜邏輯
    發表于 03-10 14:19

    如何在邊緣AI應用場景中實現性能、低功耗推理(上)

    RA生態工作室關注我們為什么選擇邊緣AI?AI市場已經發生了根本性變革。過去,AI處理主要在云端完成。EndPoint設備從傳感
    的頭像 發表于 03-03 14:18 ?5537次閱讀
    如何在<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>應用場景中<b class='flag-5'>實現</b>高<b class='flag-5'>性能</b>、低功耗<b class='flag-5'>推理</b>(上)

    如何在邊緣AI應用場景中實現性能、低功耗推理(上)

    ? 為什么選擇邊緣AI? AI市場已經發生了根本性變革。過去,AI處理主要在云端完成。End Point設備從傳感
    的頭像 發表于 02-27 07:48 ?9374次閱讀
    如何在<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>應用場景中<b class='flag-5'>實現</b>高<b class='flag-5'>性能</b>、低功耗<b class='flag-5'>推理</b>(上)

    新品 | AI Pyramid AI Pyramid-Pro,面向本地推理與智能交互的高性能AI PC

    AIPyramid是一款金字塔形狀的高性能AIPC,專為本地AI推理邊緣智能應用而生。內置AxeraAX8850SoC,集成八核Cortex-A55
    的頭像 發表于 02-06 17:24 ?3666次閱讀
    新品 | <b class='flag-5'>AI</b> Pyramid <b class='flag-5'>AI</b> Pyramid-Pro,面向本地<b class='flag-5'>推理</b>與智能交互的高<b class='flag-5'>性能</b><b class='flag-5'>AI</b> PC

    探索NXP i.MX 93應用處理器家族:高效邊緣計算的理想之選

    探索NXP i.MX 93應用處理器家族:高效邊緣計算的理想之選 在當今的科技領域,邊緣計算正逐漸成為推動各行業創新發展的關鍵力量。NXP的i.MX 93應用
    的頭像 發表于 12-24 14:50 ?602次閱讀

    瑞芯微SOC智能視覺AI處理器

    RK1126B的基礎上,增加了H.264/H.265視頻編碼能力的“全能型”視覺AI處理器,實現編解碼+AI分析一體化基礎: 完全繼承了RK1126B的所有特性,包括
    發表于 12-19 13:44

    通過NVIDIA Jetson AGX Thor實現7倍生成式AI性能

    Jetson Thor 平臺還支持多種主流量化格式,包括 NVIDIA Blackwell GPU 架構的新 NVFP4 格式,有助于進一步優化推理性能。該平臺同時支持推測解碼等新技術,為在邊緣端加速生成式 AI 工作負載提供了
    的頭像 發表于 10-29 16:53 ?1441次閱讀

    使用NVIDIA NVLink Fusion技術提升AI推理性能

    本文詳細闡述了 NVIDIA NVLink Fusion 如何借助高效可擴展的 NVIDIA NVLink scale-up 架構技術,滿足日益復雜的 AI 模型不斷增長的需求。
    的頭像 發表于 09-23 14:45 ?939次閱讀
    使用NVIDIA NVLink Fusion技術提升<b class='flag-5'>AI</b><b class='flag-5'>推理性能</b>

    瑞薩電子RZ/V系列微處理器助力邊緣AI開發

    邊緣AI越來越多地應用于諸如工業攝像頭和公共設施攝像頭等嵌入式設備中,并要求嵌入式產品小型化且具有低功耗。瑞薩電子RZ/V系列微處理器(MPU)內置AI加速
    的頭像 發表于 09-23 10:31 ?919次閱讀
    瑞薩電子RZ/V系列微<b class='flag-5'>處理器</b>助力<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>開發

    華為亮相2025金融AI推理應用落地與發展論壇

    創新技術——UCM推理記憶數據管理,旨在推動AI推理體驗升級,提升推理性價比,加速AI商業正循
    的頭像 發表于 08-15 09:45 ?1240次閱讀

    研華科技推出緊湊型邊緣AI推理系統AIR-120

    研華科技隆重宣布,推出緊湊型邊緣AI推理系統——AIR-120。該系統搭載英特爾凌動x7433RE(Amston Lake)處理器、酷睿i3-N305
    的頭像 發表于 07-17 17:16 ?1063次閱讀

    信而泰×DeepSeek:AI推理引擎驅動網絡智能診斷邁向 “自愈”時代

    網絡智能診斷平臺。通過對私有化網絡數據的定向訓練,信而泰打造了高性能、高可靠性的網絡診斷模型,顯著提升了AI輔助診斷的精準度與實用性。該方案實現了網絡全流量深度解析能力與AI智能
    發表于 07-16 15:29

    意法半導體邊緣AI套件中提供的全部工具

    推理性能。 ? 典型應用 ?:工業設備故障預測、人臉識別等低延遲場景。 ? NanoEdge AI Studio ? ?
    的頭像 發表于 04-21 17:46 ?1638次閱讀

    英偉達GTC25亮點:NVIDIA Dynamo開源庫加速并擴展AI推理模型

    NVIDIA Dynamo 提高了推理性能,同時降低了擴展測試時計算 (Scaling Test-Time Compute) 的成本;在 NVIDIA Blackwell 上的推理優化將
    的頭像 發表于 03-20 15:03 ?1280次閱讀

    Banana Pi 發布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發

    []() 2025年3月19日——Banana Pi 今日正式發布 BPI-AI2N & BPI-AI2N Carrier,基于瑞薩電子(Renesas)同步發布的最新的高
    發表于 03-19 17:54