国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

云天勵飛DeepEdge10適配DeepSeek開源周“首個大招”:FlashMLA

AI機械姬 ? 來源:AI機械姬 ? 作者:AI機械姬 ? 2025-02-27 11:06 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

2 月 24 日,DeepSeek"開源周"正式啟動,并發布首個代碼庫FlashMLA,引發全球關注。

FlashMLA是針對英偉達Hopper GPU優化的高效MLA解碼內核,專為可變長度序列優化設計,是DeepSeek高效使用算力的核心程序模塊。FlashMLA通過MLA解碼優化與分頁KV緩存技術,顯著提升硬件利用率,加速大語言模型解碼過程,有效提高響應速度與吞吐量,適用于各種實時對話生成場景。

云天勵飛芯片團隊在FlashMLA開源后,迅速完成了DeepEdge10 平臺與FlashMLA的適配工作。在適配過程中,云天勵飛采用了Op fusion tiling、Online softmax、Double buffer、細粒度存算并行等先進技術,并基于自研的Triton-like編程語言快速開發驗證了高效的FlashMLA算子。通過一系列優化,不僅顯著提升了計算效率,還大幅降低了顯存占用,充分展現了DeepEdge10 平臺“算力積木”芯片架構的卓越優勢,以及其與DeepSeek生態的高度契合性。

今日,云天勵飛已將相關代碼提交至開源平臺Gitee,為開源AI貢獻了重要的技術力量。

算子的源碼地址為:

https://gitee.com/Intellifusion_2025/tyllm/blob/master/python/tylang/flash_mla.py

DeepEdge10 系列芯片是專門針對大模型時代打造的芯片,支持包括 Transformer 模型、BEV 模型、CV 大模型、LLM 大模型等各類不同架構的主流模型;基于自主可控的先進國產工藝打造,采用獨特的“算力積木”架構,可靈活滿足智慧城市、智慧交通、智能制造、智慧倉儲、機器人、邊緣智算中心等不同場景對算力的需求,為大模型推理提供強大動力。

wKgZPGe_1piAUBg0AAd-aDFnMzU838.png

目前,DeepEdge10 芯片平臺已成功適配DeepSeek R1 系列模型及國產鴻蒙操作系統。未來,云天勵飛將持續加大研發力度,推動芯片在國產化領域取得更大突破,為國產AI生態建設貢獻更多力量。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 云天勵飛
    +關注

    關注

    0

    文章

    182

    瀏覽量

    12650
  • DeepSeek
    +關注

    關注

    2

    文章

    835

    瀏覽量

    3255
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    云天正式舉辦大算力芯片戰略前瞻會

    2月3日,云天正式舉辦“大算力芯片戰略前瞻會”,首次對外公布未來三年的大算力 AI 推理芯片戰略布局。
    的頭像 發表于 02-06 17:23 ?3651次閱讀

    云天DeepEdge10為星載計算提供支撐,搭載自研NNP400T

    電子發燒友網報道 近日云天表示,公司用DeepEdge10為深空探測實驗室的自主可控星載計算提供支撐。DeepEdge10 基于自主可控
    的頭像 發表于 01-21 11:49 ?2259次閱讀

    云天:AI推理需求狂飆,國產算力芯片機遇期加速到來

    今年來自國內外的半導體創新領袖企業高管們又帶來哪些前瞻觀點?此次,電子發燒友網特別采訪了云天,以下是這家公司對2026年半導體產業的分析與展望。
    的頭像 發表于 12-23 10:13 ?1.1w次閱讀
    <b class='flag-5'>云天</b><b class='flag-5'>勵</b><b class='flag-5'>飛</b>:AI推理需求狂飆,國產算力芯片機遇期加速到來

    云天中標AI龍崗一期1.22億元項目

    日前,云天中標AI龍崗一期1.22億元項目,將為龍崗區打造AI與機器人示范場景提供技術支撐,助力城市治理智能化水平持續提升。
    的頭像 發表于 12-22 09:34 ?406次閱讀

    AI教父Hinton對話云天陳寧

    在大模型步入深水區的當下,AI 的下一個臨界點究竟在哪里?在 2025 GIS 全球創新峰會現場,深度學習奠基人、“AI 教父” Geoffrey Hinton 與云天董事長兼 CEO 陳寧
    的頭像 發表于 12-03 14:04 ?693次閱讀

    云天AI推理芯片如何賦能千行百業

    11月26日,云天會客廳第二期生態沙龍暨深商聯高科技高成長創新營走進上市公司活動圓滿舉辦。來自深圳科技領域的多位企業負責人齊聚云天,共同探討AI推理時代的技術變革、產業機遇與落地挑
    的頭像 發表于 12-03 13:58 ?625次閱讀

    云天亮相2025中國具身智能機器人大會

    近日,在 2025 中國具身智能機器人大會上,云天副總裁羅憶從芯片廠商的視角出發,對具身智能產業的未來進行了深入剖析,并分享了公司在 AI 推理芯片與機器人應用場景方面的整體布局。
    的頭像 發表于 11-25 11:26 ?854次閱讀

    云天與金蝶達成戰略合作

    11月4日,在2025金蝶全球創見者大會上,云天與金蝶簽署戰略合作協議。
    的頭像 發表于 11-05 18:09 ?1671次閱讀

    云天攜手合作伙伴共探AI產業新拐點

    10月17日,云天攜手深圳市人工智能產業協會舉辦“智見未來·Agent時代的產業機遇”主題沙龍,邀請來自全國50余家企業高管齊聚深圳,共同探討AI時代的新趨勢、新挑戰與新機遇。
    的頭像 發表于 10-27 10:12 ?926次閱讀

    云天與前海大數據公司、勤達睿達成戰略合作

    近日,深圳市前海大數據資源管理中心有限公司、深圳云天技術股份有限公司、勤達睿香港有限公司(Kyndryl)正式簽署戰略合作協議,圍繞智算基礎設施與“人工智能+”服務展開深度合作。
    的頭像 發表于 10-11 14:02 ?559次閱讀

    云天正式加入OISA生態

    近日,云天正式加入 OISA 生態,攜手產業伙伴共同推動國產 AI 芯片互聯體系建設,為中國算力生態注入新的動力。
    的頭像 發表于 10-11 13:59 ?643次閱讀

    云天亮相2025全球AI芯片峰會

    9 月 17 日,全球 AI 芯片峰會在上海舉行,云天董事長兼 CEO 陳寧出席并發表演講。
    的頭像 發表于 09-17 17:56 ?1366次閱讀

    云天亮相SEMI-e 2025深圳國際半導體展

    9月10日,SEMI-e深圳國際半導體展暨2025集成電路產業創新展在深圳舉行。云天受邀出席同期舉辦的“端側AI芯片新架構與新應用專題研討會”并發表主題演講。
    的頭像 發表于 09-12 14:31 ?1698次閱讀

    云天飛出席2025亞布力論壇創新年會

    近日,2025 亞布力論壇第十一屆創新年會在杭州開幕,云天董事長兼 CEO 陳寧博士受邀出席,分享了他對未來 AI 產業化發展的趨勢研判。
    的頭像 發表于 07-10 11:36 ?1227次閱讀

    云天受邀出席華為解決方案伙伴精英峰會

    近日,以“聚智同行,數智共贏”為主題的華為解決方案伙伴精英峰會在深圳舉辦。作為華為昇騰的緊密伙伴,云天受邀出席峰會,與來自各行業的600+客戶及解決方案伙伴高層齊聚一堂,聚焦行業數智化轉型機遇與挑戰,分享行業數智化的創新實踐
    的頭像 發表于 03-25 15:28 ?1062次閱讀