DeepSeek是一款由國內人工智能公司研發的大型語言模型,實現了媲美OpenAI-o1模型的效果,擁有強大的自然語言處理能力,還大幅降低了推理模型的成本,受到海內外用戶的廣泛吹捧。
DeepSeek 作為一個開源的大語言模型,我們可以通過 ZeroNews + openWebUI + ollama的方式,輕松的在本地私有化部署 DeepSeek,不受網絡攻擊影響,滿足不同用戶的需求場景。
下面以在Ubuntu 系統為例,部署 ZeroNews +Open WebUI + Ollama,構建自己的 DeepSeek 平臺
部署步驟
我們通過Docker 容器的方式部署 ZeroNews 內網穿透及Open WebUI,需提前安裝好 Docker
第一步:部署 Ollama
Ollama 是一個用于管理和部署機器學習模型的工具。專注于簡化模型的下載、配置和運行過程,我們通過 ollama 下載并運行 DeepSeek 大語言模型
安裝 Ollama
在 ubuntu 系統通過一條命令部署 ollama 本地模型

修改 ollama 的本地監聽IP地址, 將 Environment="OLLAMA_HOST=0.0.0.0" 添加到 ollama 的系統服務文件( /etc/systemd/system/ollama.service)中

重啟ollama 服務

在瀏覽器中,輸入 http://{主機ip}:11434, 檢查 ollama 是否正常運行, 顯示 “Ollama is running”, 表示ollama 運行正常

下載 DeepSeek 大語言模型
在 Ollama 官網中,可以查看支持的 DeepSeek 版本,我們根據自己的需求下載對應的模型版本即可

下面以 deepseek-r1:8b 為例,下載 deepseek-r1:8b 模型
ollama run deepseek-r1:8b

deepseek 大語言模型下載完成后,接下來部署 Open WebUI
第二步: 部署 Open WebUI
OpenWebUI 是一個開源的 Web 用戶界面框架,為各種應用程序提供現代化的、響應式的用戶界面,其構建一個用戶友好的 Web 界面,來管理和監控通過 Ollama 部署的機器學習模型。
我們通過 Docker 容器方式部署 Open WebUI
拉取 Open WebUI 鏡像
通過以下命令,從 Open WebUI 官方 GitHub Container Registry (GHCR) 倉庫拉取鏡像

啟動 Open WebUI 容器
先創建一個用于 Open WebUI 容器本地存儲的本地目錄

通過以下命令啟動容器,容器名稱 deepseek, 映射本地 8080 端口號, 并掛載本地目錄 /opt/openwebui 到容器的 /app/backend/data

Open WebUI 容器啟動完成后,就可以在瀏覽器中輸入 http://{主機IP}:3000 訪問 Open WebUI

第三步: 部署 ZeroNews 內網穿透
我們通過 Docker 容器方式部署 ZeroNews 內網穿透
下載 ZeroNews 容器鏡像
通過以下命令在 ZeroNews 官方倉庫下載 ZeroNews 容器鏡像

啟動 ZeroNews 容器
通過以下命令啟動 ZeroNews 容器,將 token 及 網絡區域ID 粘貼到命令最后,以空格分隔

ZeroNews 容器啟動成功后,在 ZeroNews 平臺上能查看已上線的 ZeroNews 容器

第四步: 為Open WebUI 添加域名及映射
1. 為 Open WebUI 平臺添加域名及端口
在 ZeroNews 管理平臺的 "域名端口" 界面下,添加域名,勾選 HTTPS ,然后點擊 "確認",完成域名端口添加

2. 為 Open WebUI 平臺添加公網映射
首先在 ZeroNews 管理平臺的 "映射" 界面下,添加HTTPS公網映射
映射協議: 選擇 HTTPS 協議
公網訪問地址: 選擇上一步添加好的 deepseek 域名地址
映射帶寬: 輸入需要的帶寬,如 2M
內網映射地址: IP地址默認為 127.0.0.1, 端口為 Open WebUI 平臺的端口號 8080

Open WebUI 的公網映射添加完成后,在瀏覽器就可以通過分配的域名在公網上訪問 Open WebUI 應用平臺

第五步:Open WebUI基礎配置
1. 打開Open WebUI 域名地址后,先創建一個管理員賬號, 輸入名稱、郵箱及密碼等信息,然后點擊"創建管理員賬號" 完成管理員創建

成功登錄后,進入到 Open WebUI 主頁面

點擊 "選擇一個模型", 選擇我們添加好的 deepseek-r1.8b 模型

接下來就可以通過 DeepSeek 大模型進行對話了,如輸入內網穿透

審核編輯 黃宇
-
知識庫
+關注
關注
0文章
15瀏覽量
6819 -
遠程訪問
+關注
關注
0文章
49瀏覽量
8216 -
DeepSeek
+關注
關注
2文章
826瀏覽量
2858
發布評論請先 登錄
“輕松上手!5分鐘學會用京東云打造你自己的專屬DeepSeek”
在龍芯3a6000上部署DeepSeek 和 Gemma2大模型
添越智創基于 RK3588 開發板部署測試 DeepSeek 模型全攻略
《AI Agent 應用與項目實戰》閱讀心得3——RAG架構與部署本地知識庫
【幸狐Omni3576邊緣計算套件試用體驗】DeepSeek 部署及測試
基于知識庫的智能策略翻譯技術
本體知識庫的模塊與保守擴充
方太集團攜手小i機器人打造的方太智能知識庫正式上線
如何基于亞馬遜云科技LLM相關工具打造知識庫
騰訊ima升級知識庫功能,上線小程序實現共享與便捷問答
DeepSeek從入門到精通(2):0成本用DeepSeek(滿血版)搭建本地知識庫
用騰訊ima和Deepseek建立個人微信知識庫
技術融合實戰!Ollama攜手Deepseek搭建知識庫,Continue入駐VScode

本地部署openWebUI + ollama+DeepSeek 打造智能知識庫并實現遠程訪問
評論