英偉達近日宣布,其DeepSeek R1 671b版本已正式上線英偉達NIM(NVIDIA Inference Microservices)平臺,并以預覽版的形式在build.nvidia.com網站上發布。
據悉,DeepSeek R1 NIM微服務是英偉達在人工智能領域的一項重要創新,旨在為用戶提供高效、精準的推理服務。在單個英偉達HGX H200系統上,該微服務每秒最多可處理3872個token,展現出強大的處理能力和高效性。
此次上線的DeepSeek R1 NIM微服務預覽版,允許開發人員對其進行測試和實驗,以更好地了解其性能和功能。英偉達表示,未來該API將作為英偉達AI Enterprise軟件平臺的一部分,以可下載的NIM微服務形式正式推出,為用戶提供更加便捷、高效的使用體驗。
英偉達一直致力于推動人工智能技術的發展和應用,此次發布的DeepSeek R1 NIM微服務預覽版,不僅展示了英偉達在人工智能領域的強大技術實力,也為用戶提供了更加高效、精準的推理服務。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
軟件
+關注
關注
69文章
5328瀏覽量
91416 -
NIM
+關注
關注
0文章
10瀏覽量
8245 -
人工智能
+關注
關注
1816文章
50053瀏覽量
264540 -
英偉達
+關注
關注
23文章
4076瀏覽量
98978 -
DeepSeek
+關注
關注
2文章
833瀏覽量
3193
發布評論請先 登錄
相關推薦
熱點推薦
如何在NVIDIA Blackwell GPU上優化DeepSeek R1吞吐量
開源 DeepSeek R1 模型的創新架構包含多頭潛在注意力機制 (MLA) 和大型稀疏混合專家模型 (MoE),其顯著提升了大語言模型 (LLM) 的推理效率。
速看!EASY-EAI教你離線部署Deepseek R1大模型
1.Deepseek簡介DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研發的推理模型。DeepSeek-R1采用強化學習進行后訓練,旨在提升推理能力,尤其擅
DeepSeek開源新版R1 媲美OpenAI o3
DeepSeek“悄悄”地又放了一個大招,DeepSeek開源了R1最新0528版本。盡管DeepSeek目前還沒有對該版本進行任何說明,但是根據著名代碼測試
科大訊飛深度解析DeepSeek-V3/R1推理系統成本
本篇分析來自科大訊飛技術團隊,深度解析了DeepSeek-V3 / R1 推理系統成本,旨在助力開發者實現高性價比的MoE集群部署方案。感謝訊飛研究院副院長&AI工程院常務副院長龍明康、AI工程院AI云平臺研發部總監李珍松、訊飛
英偉達、高通布局AI投資版圖,這些明星企業被收入囊中!
電子發燒友原創 章鷹 今年以來,AI界新秀DeepSeek帶來的大模型平權推動AI應用,云計算市場景氣度上行,推動資本開支增長。對于DeepSeek的橫空出世,英偉達CEO黃仁勛表示,
顯存也能疊疊樂,雙 Intel Arc A770 顯卡低成本部署 DeepSeek R1 32B 蒸餾模型體驗
今年春節后,DeepSeek R1 風暴般地席卷全國,小到手機 App,大到新能源汽車,似乎一夜間所有產品都接入了 DeepSeek R1。不得不說
RK3588開發板上部署DeepSeek-R1大模型的完整指南
擴展規劃、嵌入式適配等技術維度的突破。
RK3588作為瑞芯微推出的旗艦級芯片,憑借多核異構計算能力以及強大的CPU、GPU和NPU性能,成為嵌入式AI應用的理想平臺。DeepSeek-R1
發表于 02-27 16:45
9.9萬元用上“滿血”DeepSeek R1一體機,本地部署成新商機?引發外媒熱議
近期,確實有關于9.9萬元即可用上“滿血”DeepSeek R1一體機的報道,這一消息不僅在國內引起了廣泛關注,也引發了外媒的熱議。以下是對此話題的詳細分析: 一、DeepSeek R1
突發!英偉達H20芯片在華訂單大增,買家曝光
人們對 DeepSeek 可能致使人工智能芯片需求下滑的擔憂。 此前,DeepSeek 爆火給英偉達帶來了不小的沖擊。2025 年 1 月,
研華發布昇騰AI Box及Deepseek R1模型部署流程
近日,隨著深度求索(DeepSeek)大模型的發布在行業內掀起熱議,研華科技正式推出了基于昇騰Atlas平臺的邊緣AI Box MIC-ATL3S,并同步發布了與
OpenAI O3與DeepSeek R1:推理模型性能深度分析
OpenAI剛推出的O3和DeepSeek的R1代表了推理模型領域的重大進步。這兩種模型都因在各種基準測試中的出色表現而備受關注,引發了人們對人工智能的未來及其對各個行業的潛在影響的討論。據我們所知
安霸大算力AI芯片接入DeepSeek R1
安霸(Ambarela)在人工智能領域持續發力,已成功在多款 AI 芯片,包括 N 系列大算力 AI 芯片上本地部署了 DeepSeek R1。
浪潮信息發布元腦R1推理服務器
近日,浪潮信息正式推出了其創新的元腦R1推理服務器。這款服務器通過系統的創新與軟硬件的協同優化,實現了對DeepSeek R1 671B模型的單機部署與運行,為客戶在智能應用部署方面帶來了顯著的突破
英偉達發布DeepSeek R1于NIM平臺
評論