国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

阿里全新AI推理方法入選ICML 2020,可減少AI對計算和內存資源的消耗

牽手一起夢 ? 來源:C114通信網 ? 作者:佚名 ? 2020-06-19 15:52 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

近日,人工智能國際頂會ICML 2020公布了論文收錄結果,阿里巴巴7篇論文入選,是入選論文數量最多的中國科技公司。ICML是機器學習領域全球最具影響力的學術會議之一,今年接受率僅為21.8%。

根據ICML官方顯示,阿里7篇論文涵蓋在圖像識別、自然語言處理、搜索推薦等領域的研究成果,其中一篇《Boosting Deep Neural Network Efficiency with Dual-Module Inference》,提出了一種全新的AI推理方法,可大幅減少AI對計算和內存資源的消耗,能將推理速度提升3倍。

近年來AI模型變得越來越復雜化,尤其是類似語言AI這類復雜模型,給計算、內存資源帶來了新的挑戰。目前,業界通用的解決方法是采用更先進的計算性能來運行AI任務,例如采用GPUFPGA或者NPU等異構計算,但該方法并沒有從根源上解決問題。

阿里巴巴達摩院設計出了一種“AI雙腦思考”的方法,能讓大型神經網絡像人類一樣學會“快思考”與“慢思考”,從而進行高效且準確的推理過程。

該方法被稱為“雙模推理”, 即將一個復雜任務拆分成兩個任務,例如在復雜AI推理任務過程中,可以先以很小的資源運行“小網絡”,同時分析哪些網絡的區域較為敏感,然后只對敏感區域在“大網絡”中運行計算。

達摩院的科學家從理論上證明了雙模推理的可行性,且在CPU上實現了該方法。實際效果顯示,該方法能在保證模型精度的基礎上,在語言模型上減小40%的訪存,達到1.54倍-1.75倍的性能提升,同時可以在僅損耗0.5%精度基礎上,提升3倍的推理速度。

近年來,阿里在AI領域迎來了基礎研究與產業應用成果雙爆發的階段。三年前,阿里巴巴成立了內部研究機構達摩院,深入AI研究前沿。據了解,阿里AI已在國際頂級技術賽事上獲得了近60項世界第一,500多篇論文入選國際頂會。同時,阿里AI落地了多項重大研究成果,全面賦能各行各業。達摩院醫療AI團隊疫情期間研發的AI診斷技術,已在全球近600家醫院落地,完成50余萬例臨床診斷。

責任編輯:gt

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    91

    文章

    39866

    瀏覽量

    301513
  • 阿里巴巴
    +關注

    關注

    7

    文章

    1647

    瀏覽量

    49208
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    邊緣AI算力臨界點:深度解析176TOPS香橙派AI Station的產業價值

    AGX Orin 150 TOPS+ 本地大模型推理、具身智能控制、多模態實時交互 迷你AI服務器 176TOPS 意味著OrangePi AI Station正式邁入 高端邊緣AI
    發表于 03-10 14:19

    使用NORDIC AI的好處

    原始傳感器數據,顯著降低功耗、延長電池壽命。[Edge AI 概述; Nordic Edge AI 技術頁] 降低云依賴與時延 直接在設備上做推理,很多決策可以“本地實時”完成,
    發表于 01-31 23:16

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片

    和探索;人類級別的理解能力;常識推理;現實世界的知識整合。 3、測試時計算 測試時計算(TTC)是指在模型推理階段利用額外的計算
    發表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用

    AI被賦予了人的智能,科學家們希望在沒有人類的引導下,AI自主的提出科學假設,諾貝爾獎級別的假設哦。 AI驅動科學被認為是科學發現的第五個范式了,與實驗科學、理論科學、計算科學、數據驅
    發表于 09-17 11:45

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實現深度學習AI芯片的創新方法與架構

    算法 5.2加速矩陣乘法的芯片架構 ①新的矩陣乘法器架構 ②基于RISC-V的矩陣乘法擴展指令集 ③用信息論的思想來減少AI推理計算量 三、用于邊緣側訓練或
    發表于 09-12 17:30

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+可期之變:從AI硬件到AI濕件

    ,又分為真菌計算和基于DNA的計算。 圖4 基本的真菌計算機結構 在用化學和生物方法實現AI功能的過程中,要經歷5個階段,見圖5所示。 圖
    發表于 09-06 19:12

    科普:什么AI 內存技術

    問題。 為什么 AI 內存很重要? 在 AI 模型訓練和推理過程中,大量的數據需要從內存傳輸到處理器(如 GPU 或 TPU)進行
    的頭像 發表于 09-03 15:44 ?1410次閱讀

    今日看點丨華為發布AI推理創新技術UCM;比亞迪汽車出口暴增130%

    緩存加速算法工具,分級管理推理過程中產生的KV Cache記憶數據,擴大推理上下文窗口,實現高吞吐、低時延的推理體驗,降低每Token推理
    發表于 08-13 09:45 ?5374次閱讀

    信而泰×DeepSeek:AI推理引擎驅動網絡智能診斷邁向 “自愈”時代

    資源分配的最優策略建議,減少資源浪費,提升整體網絡效率。 客戶實證:AI推理引擎的精準力量某大型政務云平臺遭遇核心業務運行緩慢問題,初步
    發表于 07-16 15:29

    大模型推理顯存和計算量估計方法研究

    方法。 一、引言 大模型推理是指在已知輸入數據的情況下,通過深度學習模型進行預測或分類的過程。然而,大模型的推理過程對顯存和計算資源的需求較
    發表于 07-03 19:43

    Nordic收購 Neuton.AI 關于產品技術的分析

    生成比傳統框架(如 TensorFlow、PyTorch 等)小 10 倍的模型,模型體積低至個位數 KB,并且推理速度更快、功耗更低。此次收購將 Neuton 的自動化 TinyML 平臺
    發表于 06-28 14:18

    首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

    內存帶寬占用量大幅度降低50%,讓端側AI推理更聰明、響應更迅速。 天璣AI開發套件2.0還首次引入基于NPU的端側LoRA訓練,開發者在天璣NPU上進行運算訓練,相比基于CPU的
    發表于 04-13 19:52

    曙光存儲全新升級AI存儲方案

    近日,曙光存儲全新升級AI存儲方案,秉持“AI加速”理念,面向AI訓練、AI推理
    的頭像 發表于 03-31 11:27 ?1349次閱讀

    適用于數據中心和AI時代的800G網絡

    數據中心依賴數千甚至上萬個GPU集群進行高性能計算,對帶寬、延遲和數據交換效率提出極高要求。 AI云:以生成式AI為核心的云平臺,為多租戶環境提供推理服務。這類數據中心要求網絡具
    發表于 03-25 17:35

    Banana Pi 發布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計算與嵌入式開發

    RZ/V2N——近期在嵌入式世界2025上新發布,為 AI 計算、嵌入式系統及工自動化提供強大支持。這款全新計算平臺旨在滿足開發者和企業用戶對高性能、低功耗和靈活擴展的需求。 [](
    發表于 03-19 17:54