DeepSeek 的國內(nèi)算力支持隊伍進一步壯大:來自上海的壁仞科技順利部署DeepSeek-R1-Distill千問蒸餾模型(1.5B/7B/14B/32B),并已上線 Gitee AI 免費使用。
蒸餾小模型超越 OpenAI o1-mini
通過 DeepSeek-R1 的輸出,DeepSeek 團隊蒸餾并開源了 6 個小模型,其中 32B 和 70B 參數(shù)的模型在多項能力上實現(xiàn)了對標(biāo) OpenAI o1-mini 的效果。
本次壁仞科技共部署了1.5B/7B/14B/32B四個不同參數(shù)的千問蒸餾模型,其中 32B 參數(shù)模型在輸出質(zhì)量和資源占用中取得了較好的平衡,更推薦開發(fā)者們使用。
32B參數(shù)模型使用壁仞算力的推理速度
壁仞科技聯(lián)合科華數(shù)據(jù),加速國產(chǎn)算力再升級
壁仞科技成立于 2019 年,致力于開發(fā)原創(chuàng)性的通用計算體系,建立高效的軟硬件平臺,同時在智能計算領(lǐng)域提供一體化的解決方案。從發(fā)展路徑上,壁仞科技將首先聚焦云端通用智能計算,逐步在人工智能訓(xùn)練和推理等多個領(lǐng)域趕超現(xiàn)有解決方案,實現(xiàn)國產(chǎn)高端通用智能計算芯片的突破。
基于壁礪TM系列訓(xùn)推產(chǎn)品 106M、106B、106E、110E,憑借先進的芯片架構(gòu)、高效的多模型適配能力、廣泛的數(shù)據(jù)精度支持以及強大的解碼能力,配合算力集群供應(yīng)商科華數(shù)據(jù)的強力支撐,僅用數(shù)小時即完成對 DeepSeek R1 全系列蒸餾模型的支持。
科華數(shù)據(jù)全國智算中心具備極致可靠、超高密度、彈性預(yù)制、綠色低碳、多樣算力等特性。在智算中心的發(fā)展中融合「算網(wǎng)」、「算液」、「算效」,讓算力從「用得了」、「用得起」到「用的好」。始終堅守以客戶需求為導(dǎo)向,融合多行業(yè)場景解決方案和科華數(shù)據(jù)豐富的產(chǎn)品矩陣及技術(shù)底蘊來幫助客戶實現(xiàn)價值。
100%國內(nèi)AI新添強援
壁仞科技的加入,為 DeepSeek R1 千問蒸餾模型帶來了又一個國內(nèi)算力強援,也為開發(fā)者提供了新的國內(nèi)算力選擇。
同樣,Gitee AI 壁仞科技算力資源包中的DeepSeek-R1-Distill-Qwen系列模型依然面向全體開發(fā)者免費使用!
點擊文末閱讀原文,免費使用壁仞算力感受DeepSeek-R1-Distill-Qwen系列模型的出色表現(xiàn)吧!
更多國產(chǎn)算力與 DeepSeek 和 Gitee AI 的對接工作也正在緊鑼密鼓進行中,努力為開發(fā)者提供更高效、更靈活的 AI 應(yīng)用解決方案。
除了國產(chǎn) GPU 芯片外,Gitee AI 也正在聯(lián)合國產(chǎn)生態(tài)廠商探索更多形態(tài)、更多平臺的 AI 模型適配,并將于近期正式上線,各位開發(fā)者敬請期待。
Gitee AI 的 Serverless API 提供了文本生成、視覺模型、圖像處理、語音識別、語音生成、向量與重排模型、代碼生成等 9 種類型共 54 個大模型的 API 使用。通過購買模型資源包,即可通過極低的價格即可盡享眾多主流模型。
-
算力
+關(guān)注
關(guān)注
2文章
1511瀏覽量
16702 -
壁仞科技
+關(guān)注
關(guān)注
1文章
82瀏覽量
3930 -
DeepSeek
+關(guān)注
關(guān)注
2文章
833瀏覽量
3193
原文標(biāo)題:100%國產(chǎn)AI新成員:壁仞科技成功適配DeepSeek R1千問蒸餾模型
文章出處:【微信號:OSC開源社區(qū),微信公眾號:OSC開源社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
速看!EASY-EAI教你離線部署Deepseek R1大模型
DeepSeek開源新版R1 媲美OpenAI o3
壁仞科技完成阿里巴巴通義千問Qwen3全系列模型支持
DeepSeek R1模型本地部署與產(chǎn)品接入實操
顯存也能疊疊樂,雙 Intel Arc A770 顯卡低成本部署 DeepSeek R1 32B 蒸餾模型體驗
如何使用OpenVINO運行DeepSeek-R1蒸餾模型
壁仞科技支持DeepSeek-V3滿血版訓(xùn)練推理
RK3588開發(fā)板上部署DeepSeek-R1大模型的完整指南
9.9萬元用上“滿血”DeepSeek R1一體機,本地部署成新商機?引發(fā)外媒熱議
兆芯全面部署DeepSeek R1大模型
香橙派發(fā)布OrangePi 5Plus本地部署Deepseek-R1蒸餾模型指南
研華發(fā)布昇騰AI Box及Deepseek R1模型部署流程
景嘉微JM11 GPU已流片,JM、景宏系列完成DeepSeek R1系列模型適配
壁仞科技順利部署DeepSeek R1千問蒸餾模型
評論