完整教學影片
安裝 Ollama
本地部署 DeepSeek R1 的最快方法是透過 Ollama 自動部署。
修改模型存放位置
使用 Windows 的符號連結方式修改模型存放路徑
mklink /D "C:\Users\你的帳號\.ollama\models" "D:\LLM\models"DeepSeek R1 各版安裝指令
透過「命令提示字元」方式執行以下命令。可在同一部電腦上安裝多的個模型。DeepSeek R1 無限制版可安裝的模型如下。數字越大，所需的顯示卡記憶體需求越多。
7b
ollama run huihui_ai/deepseek-r1-abliterated:7b8b
ollama run huihui_ai/deepseek-r1-abliterated:8b14b
ollama run huihui_ai/deepseek-r1-abliterated:14b32b
ollama run huihui_ai/deepseek-r1-abliterated:32b70b
ollama run huihui_ai/deepseek-r1-abliterated:70b安裝 Web UI 介面
需安裝 Page Assist (A Web UI for Local AI Models) 才能以熟悉的瀏覽器方式使用以上 DeepSeek 模型。
無限制版模型手動下載
如因特別需求想要手動下載以上DeepSeek 模型，可前往 huggingface。
部署 Deepseek R1 671b 完整版
如果你想要部署的是完整版而非以上的輕量版本，可使用以下命令來安裝：
ollama run deepseek-r1:671b完整版原始來源：https://huggingface.co/deepseek-ai/DeepSeek-R1
部署 Deepseek R1 1776b 無限制完整版
此版本由 Perplexity AI 經過後訓練消除 DeepSeek R1 言論審查機制的延伸版本所釋出全新的「R1 1776」模型。
可在 Hugging Face 取得此模型。目前未在 Ollama 中提供。
Deepseek R1 完整版硬體需求
但是請注意！完整版需要的硬體需求非常高：
- CPU：32 核心 Intel Xeon 或 AMD EPYC 以上
- 記憶體：512GB
- GPU：4 片 NVIDIA A100 (80GB 顯卡記憶體)
- 硬碟：2TB NVMe SSD
- 網路頻寬：10Gbps
本地部署 QWQ-32B
阿里雲推出的通義千問模型，號稱只需要 Deepseek R1 十分之一的需求，且可以在家用級 NVIDIA 晶片顯示卡 8GB VRAM 上跑。
部署通義千問 QWQ-32B 的命令 (需要 20GB 空間)：
ollama run qwq:32b部署 QWQ-32B 教學影片
重新啟動 ollama
如果 ollama 已經關閉，可在命令提示字元中輸入以下命令重新啟動：
ollama serve其它 ollama 命令可直接在命令提示字元中輸入 ollama 取得。
移除已安裝模型
要在 ollama 移除已安裝的模型，首先先查詢已安裝的模型
ollama list然後使用 rm 移除模型
ollama rm 模型名稱
