简介：这份资源是一份面向AI推理部署与深度学习开发者的DeepSeek模型本地化部署指南，适合具备一定软硬件基础、希望降低云端调用成本并深入理解大模型运行机制的研究人员与工程师。内容围绕Ollama安装、按显存条件选择1.5B至70B不同参数规模模型、Docker与Open WebUI容器化辅助部署，以及命令行与浏览器图形界面启动验证等环节展开，覆盖从环境搭建到服务提供的完整链路。资源包共1个docx文档，约15KB，以图文步骤与命令说明为主，便于按章节对照操作。目前已有5232人学习下载，读者可借此掌握一套通用的大规模语言模型本地部署方案，理解模型规模与硬件资源的匹配逻辑，并积累容器管理与服务暴露的实践经验，为后续自然语言处理项目落地打下基础。
1. 把 DeepSeek 装进本地：为什么 Ollama 是个人开发者的第一站
很多人第一次听说 DeepSeek 本地部署，脑子里冒出来的画面是买卡、装驱动、配环境、编译推理框架，一套流程走完三天没了。实际情况是，如果你只是想在本地跑一个能对话、能写代码、能处理文档的 DeepSeek 模型，Ollama 已经把最脏最累的活干完了。它把模型权重、推理引擎、量化格式、显存调度打包成一个命令行工具，你只需要一条ollama run就能拉起一个 1.5B 到 70B 的模型。这篇文章面向的是手头只有一台普通电脑、想低成本把大语言模型跑起来的人——不管是做 NLP 实验的研究员，还是想理解 LLM 底层机制的开发者。我会把安装、选型、Docker 容器化、Open WebUI 图形界面这条链路拆开，每一步都落到具体命令和参数上，同时把显存不够、下载中断、端口冲突这些常见翻车点提前标出来。
2. Ollama 安装与 DeepSeek 模型选型：从 1.5B 到 70B 的显存账
2.1 安装 Ollama：三个平台的实际操作差异
Ollama 的安装本身不复杂，但不同系统下的行为差异值得提前说清楚。访问 Ollama 官网，找到 Download 按钮，根据系统选择对应版本。Windows 用户下载.exe安装包，双击后一路默认即可，安装完成后系统托盘会出现一个常驻的羊驼图标，这个图标代表 Ollama 的后台服务已经在监听11434端口。macOS 用户下载.dmg拖入 Applications 就行，首次启动时系统可能会提示是否允许来自开发者的应用，需要在安全性与隐私里放行。Linux 用户官方提供了一键脚本：
# Linux 下一键安装 Ollama # 该脚本会自动检测架构并下载对应二进制 curl -fsSL https://ollama.com/install.sh | sh # 安装完成后检查服务状态 systemctl status ollama # 验证版本，确认安装成功 ollama --version这段脚本做的事情是：下载 Ollama 的二进制文件到/usr/local/bin，创建ollama系统用户，注册 systemd 服务并启动。systemctl status ollama用来确认服务是否处于 active 状态，如果显示 failed，常见原因是之前装过旧版本残留了冲突的 service 文件，需要先systemctl stop ollama再重新执行安装脚本。ollama --version是最直接的验证手段，能输出版本号就说明命令行工具已经可用。
Windows 用户不需要手动执行这些，但要注意一点：安装完成后 Ollama 是以后台服务方式运行的，关闭托盘图标不等于停止服务。如果你后续要改模型存储路径或者调整并发数，需要通过环境变量OLLAMA_MODELS和OLLAMA_NUM_PARALLEL来控制，改完要重启服务才生效。
2.2 模型选型：显存和参数量之间的对应关系
选模型是整条链路里最容易拍脑袋决策的一步。Ollama 官网的 Models 页面里，DeepSeek-R1 提供了从 1.5B 到 70B 多个规格，每个规格对显存的要求不同。下面这张表是我根据实际跑下来的经验整理的对应关系，可以作为选型参考：
| 模型规格 | 量化后大致体积 | 最低显存建议 | 适用硬件场景 |
|---|---|---|---|
| 1.5B | 约 1.1 GB | 2 GB | 普通办公本、无独显 |
| 7B / 8B | 约 4.7 GB | 8 GB | 入门级独显 |
| 14B | 约 9 GB | 12～16 GB | 中端显卡 |
| 32B | 约 20 GB | 24 GB | 高端消费级显卡 |
| 70B | 约 43 GB | 40 GB 以上 | 多卡或专业卡 |
这张表里的“最低显存建议”是能跑起来的下限，不是流畅运行的下限。实际使用中，模型加载后还需要额外显存来存放 KV Cache，上下文长度设得越长，这部分开销越大。如果你用 8G 显卡跑 7B 模型，把上下文设到 8192 token，显存基本吃满，再开其他图形应用就容易触发 OOM。我一般会留出 1～2 GB 的余量，宁可跑小一号的模型，也不要把显存压到红线。
选好规格后，在模型页面右侧复制运行指令，格式是ollama run deepseek-r1:32b，其中32b就是参数量标签。打开命令行窗口粘贴执行，Ollama 会自动从 registry 拉取模型文件。下载过程中终端会显示进度条，如果中途断网，重新执行同一条命令会断点续传，不需要删掉已下载的部分。
# 拉取并运行 DeepSeek-R1 的 7B 版本 # 首次执行会自动下载，后续执行直接加载本地缓存 ollama run deepseek-r1:7b # 如果只想下载不立即运行，用 pull 子命令 ollama pull deepseek-r1:7b # 查看本地已下载的模型列表 ollama list # 查看某个模型的详细信息，包括量化方式和参数规模 ollama show deepseek-r1:7bollama run和ollama pull的区别在于，前者下载完成后会直接进入交互式对话界面，后者只下载不启动。ollama list用来确认模型是否已经落到本地，输出里会显示模型名称、大小和修改时间。ollama show能看到模型的量化类型，比如Q4_K_M表示 4-bit 量化，这是 Ollama 默认使用的量化级别，在精度和体积之间取了一个平衡点。如果你对精度要求更高，可以找Q8_0版本的模型，但体积会翻倍，显存需求也相应增加。
提示：模型下载默认存在系统盘的用户目录下，Windows 是
C:\Users\用户名\.ollama\models，Linux 是/usr/share/ollama/.ollama/models。如果系统盘空间紧张，提前设置OLLAMA_MODELS环境变量指向大容量分区，避免下载到一半报磁盘空间不足。
3. Docker 与 Open WebUI：给命令行套一个图形界面
3.1 Docker 安装：Windows 下的注意事项
命令行对话适合快速验证，但日常使用还是图形界面更顺手。Open WebUI 是目前和 Ollama 配合最顺手的开源前端，它通过 Docker 部署。Windows 用户先去 Docker 官网下载 Docker Desktop 安装包，安装时全部默认选项即可。安装完成后需要重启系统，重启后启动 Docker Desktop，同意服务条款并注册账号。
这里有一个容易忽略的点：Docker Desktop 在 Windows 下默认使用 WSL2 作为后端，如果你的机器没有启用 WSL2，Docker 会提示安装。启用 WSL2 需要管理员权限执行wsl --install，然后再次重启。另外，Docker Desktop 的资源分配是可以在设置里调整的，默认情况下它会占用宿主机一部分内存和 CPU，如果发现 Ollama 跑模型变慢，可以去 Docker 设置里把内存限制调低，给 Ollama 留出更多资源。
# 验证 Docker 是否安装成功 docker --version # 查看 Docker 运行状态 docker info # 如果 Docker 服务未启动，Windows 下需要手动打开 Docker Desktop # Linux 下用 systemctl 启动 sudo systemctl start dockerdocker --version输出版本号说明 CLI 可用，docker info能看到容器和镜像的统计信息，如果报错 “Cannot connect to the Docker daemon”，说明 Docker 后台服务没起来，Windows 下检查托盘图标是否在运行，Linux 下检查 systemd 服务状态。
3.2 Open WebUI 部署：一条命令背后的参数含义
Open WebUI 的部署命令在官方仓库里可以直接复制，针对 Ollama 跑在本机的情况，命令如下：
# 部署 Open WebUI 容器 # -d 后台运行 # -p 3000:8080 将容器内 8080 端口映射到宿主机 3000 # --add-host 让容器内能通过 host.docker.internal 访问宿主机 # -v 挂载数据卷，保证容器重建后对话记录不丢失 # --restart always 容器异常退出后自动重启 docker run -d -p 3000:8080 \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:main这条命令里每个参数都有实际作用。-p 3000:8080把容器内部的 8080 端口映射到宿主机的 3000 端口，所以部署完成后在浏览器访问http://localhost:3000就能打开界面。--add-host=host.docker.internal:host-gateway是关键参数，它让容器内部能通过host.docker.internal这个域名访问到宿主机的 Ollama 服务，没有这个参数，Open WebUI 找不到本机的模型。-v open-webui:/app/backend/data创建了一个名为open-webui的数据卷，所有对话记录、用户配置都存在这个卷里，即使你删掉容器重新部署，数据也不会丢。--restart always保证 Docker 重启后容器自动拉起，不用每次手动启动。
部署完成后，打开 Docker Desktop 的容器列表，能看到一个名为open-webui的容器在运行。首次访问http://localhost:3000会跳转到注册页面，第一个注册的账号自动成为管理员。登录后在设置里检查 Ollama 的连接地址，默认应该是http://host.docker.internal:11434，如果显示连接失败，先确认 Ollama 服务是否在运行，再检查防火墙是否拦截了 11434 端口。
注意：Open WebUI 的镜像体积较大，首次拉取可能需要几分钟。如果拉取过程中卡住，可以尝试配置国内镜像加速器，具体方法是在 Docker Desktop 的设置里找到 Docker Engine 配置项，添加 registry-mirrors 字段。
4. 避坑排查：显存溢出、端口冲突与模型加载失败
4.1 显存不足导致模型加载中断
现象：执行ollama run deepseek-r1:14b后，终端显示加载进度到某个百分比后卡住，随后报错 “CUDA out of memory” 或进程直接退出。
原因：模型权重加载到显存时超出了显卡可用容量。Ollama 默认会尝试把整个模型放进显存，如果放不下就报错，而不是自动降级到 CPU 推理。
解决：换小一号的模型规格，比如从 14B 降到 7B。如果必须跑大模型，可以设置OLLAMA_NUM_GPU环境变量控制放入显存的层数，让部分层跑在 CPU 上，代价是推理速度明显下降。具体操作是在启动 Ollama 前设置环境变量：
# Linux/macOS 下限制 GPU 加载层数 export OLLAMA_NUM_GPU=20 ollama serve # Windows 下通过系统环境变量设置，或在 PowerShell 中临时设置 $env:OLLAMA_NUM_GPU=20 ollama serve4.2 端口 11434 被占用
现象：Ollama 服务启动失败，日志提示 “address already in use”，或者 Open WebUI 连接 Ollama 时报连接拒绝。
原因：11434 是 Ollama 的默认端口，如果之前启动过 Ollama 进程没有正常退出，或者有其他服务占用了这个端口，新启动的 Ollama 就无法绑定。
解决：先找到占用端口的进程并结束它。Linux 下用lsof -i :11434查看，Windows 下用netstat -ano | findstr 11434找到 PID 后在任务管理器里结束。如果确实需要换端口，设置OLLAMA_HOST=0.0.0.0:11435环境变量，同时 Open WebUI 的连接地址也要相应修改。
4.3 模型下载到一半失败
现象：ollama pull执行过程中断网或终端关闭，重新执行时提示模型文件损坏或校验失败。
原因：Ollama 下载的模型文件分多个 blob 存储，中断时可能留下不完整的临时文件，重新下载时校验不通过。
解决：先删除本地残留的模型文件再重新拉取。用ollama list确认模型名称，然后ollama rm deepseek-r1:7b删除，再重新执行ollama pull。如果反复失败，检查磁盘剩余空间是否足够，模型文件解压后体积可能是下载体积的两倍。
4.4 Open WebUI 无法连接 Ollama
现象：Open WebUI 界面能打开，但模型列表为空，设置里测试 Ollama 连接显示失败。
原因：容器内的host.docker.internal没有正确解析到宿主机，或者 Ollama 只监听了127.0.0.1而没有监听0.0.0.0，导致容器网络无法访问。
解决：确认启动 Ollama 时设置了OLLAMA_HOST=0.0.0.0，这样 Ollama 会监听所有网络接口。Linux 下还需要检查防火墙是否放行了 11434 端口。如果用的是 Docker Desktop for Windows，host.docker.internal通常开箱即用，不需要额外配置。
4.5 对话响应速度突然变慢
现象：之前跑得好好的模型，某次对话开始每个 token 要等好几秒，风扇狂转。
原因：上下文长度累积过长，KV Cache 占满显存后触发内存交换；或者宿主机同时跑了其他吃显存的应用，比如游戏、视频渲染。
解决：在 Open WebUI 的对话设置里调小上下文长度，或者新开一个对话清空历史。检查任务管理器里 GPU 显存占用，关掉不必要的图形应用。如果长期需要长上下文，考虑升级显存更大的显卡，或者改用 4-bit 量化程度更高的模型版本。
5. 进阶技巧：用 Modelfile 定制专属 DeepSeek 实例
Ollama 的run命令能让你快速跑起一个通用模型，但如果你想固定系统提示词、调整温度参数、预设上下文长度，每次对话都手动设置就太麻烦了。Modelfile 是 Ollama 提供的模型定制方案，它像一个 Dockerfile，用声明式语法定义模型的行为。我一般会为常用的 DeepSeek 规格创建一个定制版本，把常用的参数固化进去。
# 基于 deepseek-r1:7b 创建定制模型 FROM deepseek-r1:7b # 设置系统提示词，定义模型的角色和行为边界 SYSTEM """ 你是一个严谨的技术助手，回答问题时优先给出可执行的命令和参数说明。 不确定的内容要明确标注，不要编造版本号或配置项。 """ # 调整推理参数 # temperature 越低输出越确定，适合代码和技术文档场景 PARAMETER temperature 0.3 # 限制上下文窗口，防止显存溢出 PARAMETER num_ctx 4096 # 控制生成的最大 token 数 PARAMETER num_predict 2048这个 Modelfile 里，FROM指定基础模型，SYSTEM定义系统提示词，PARAMETER用来覆盖默认推理参数。temperature设成 0.3 是为了让输出更稳定，适合技术问答场景；如果你用它写创意文案，可以调到 0.7 到 0.9。num_ctx控制上下文窗口大小，设成 4096 意味着模型最多记住最近 4096 个 token 的对话历史，超出部分会被截断。num_predict限制单次回复的最大长度，防止模型陷入循环生成。
创建定制模型的命令是：
# 从 Modelfile 构建新模型 ollama create my-deepseek -f ./Modelfile # 运行定制模型 ollama run my-deepseek # 查看定制模型的参数配置 ollama show my-deepseek --modelfileollama create会把基础模型的权重和 Modelfile 里的配置合并，生成一个新的模型标签。这个过程不会复制权重文件，只是创建一个新的配置引用，所以几乎不占额外磁盘空间。ollama show --modelfile可以回看你定义的参数是否生效。
验证定制模型是否按预期工作，我通常会用同一组问题分别问基础模型和定制模型，对比输出的风格和长度。比如问“用 Python 写一个读取 CSV 并统计每列缺失值的函数”，定制模型因为 temperature 更低，输出的代码会更紧凑，注释更少，而基础模型可能会给出多种实现方案。这个对比方法能直观看出参数调整的效果。
从那以后我每次部署新模型，都会先写一个 Modelfile 把系统提示词和上下文长度固定下来，再导入 Open WebUI 使用。这样换模型规格时只需要改FROM那一行，其他配置不用动，省去了反复调参的麻烦。希望帮到你。
本文还有配套的精品资源，点击获取
