前方高能
誰說打游戲的顯卡不能搞AI?
MTT S80表示:
“我!全!都!要!”
摩爾線程“全功能”圖形顯卡MTT S80,不僅游戲渲染性能強大,能玩《黑神話:悟空》,現(xiàn)在還能本地部署DeepSeek R1蒸餾模型。搭配最新發(fā)布的MUSA SDK RC3.1.1版本,開發(fā)者直接用開源框架Ollama就能開跑,學術(shù)黨、AI極客的福音來了。

MTT S80本地運行DeepSeek-R1 14B模型的示例圖
手把手教程:?
3步搞定DeepSeek模型部署
第一步:環(huán)境準備
系統(tǒng):Ubuntu 22.04
工具:MUSA SDK RC3.1.1(文末下載)
框架:Ollama(開源免費,小白友好)
第二步:模型下載
打開Ollama,直接拉取DeepSeek R1系列模型,1.5B/7B/8B/14B輕量版任選;
在Q4_K_M量化格式下,MTT S80的16GB顯存可最高支持DeepSeek-R1-Distill-Qwen-14B模型的高效推理,充分滿足輕量化AI開發(fā)需求
第三步:一鍵推理
終端輸入代碼,秒出結(jié)果!
我們已附上實戰(zhàn)部署指南,詳細解析DeepSeek R1 7B和14B蒸餾模型的配置流程與優(yōu)化技巧。
對游戲黨:買顯卡送AI算力,血賺!
對開發(fā)者:不用搶云服務器,本地部署成本直降!
對學生黨:論文實驗、輕量級AI開發(fā),一臺機器全搞定!
關(guān)于摩爾線程
摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計算的基礎(chǔ)設(shè)施和一站式解決方案,為各行各業(yè)的數(shù)智化轉(zhuǎn)型提供強大的AI計算支持。
我們的目標是成為具備國際競爭力的GPU領(lǐng)軍企業(yè),為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進的加速計算平臺。我們的愿景是為美好世界加速。
-
AI
+關(guān)注
關(guān)注
91文章
39489瀏覽量
300688 -
摩爾線程
+關(guān)注
關(guān)注
2文章
276瀏覽量
6405 -
大模型
+關(guān)注
關(guān)注
2文章
3621瀏覽量
5125
原文標題:游戲顯卡跑AI大模型?使用MTT S80解鎖DeepSeek R1蒸餾模型本地推理
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
Day-0支持|摩爾線程完成MiniMax M2.5模型極速適配
Day-0支持|摩爾線程MTT S5000率先完成對GLM-5的適配
支持OpenGL 4.6與Vulkan 1.3,摩爾線程發(fā)布圖形顯卡驅(qū)動v320.130
摩爾線程發(fā)布圖形顯卡驅(qū)動程序v310.120
摩爾線程發(fā)布圖形顯卡驅(qū)動程序v300.110.1
摩爾線程MTT X300顯卡全新性能升級
摩爾線程發(fā)布圖形顯卡驅(qū)動程序v300.110
摩爾線程發(fā)布圖形顯卡驅(qū)動程序v290.100.2
摩爾線程GPU成功適配Deepseek-V3-0324大模型
摩爾線程圖形顯卡MTT S80實現(xiàn)DeepSeek模型部署
評論