简介:这份PDF资料面向希望在个人电脑上离线运行DeepSeek模型的开发者与AI爱好者,聚焦本地化部署这一实操场景,兼顾入门与进阶需求。内容围绕Ollama框架展开,涵盖从官网下载安装、按显存与内存条件选择1.5B至671B不同参数规模模型,到通过命令行拉取并启动deepseek-r1系列模型的完整链路,同时给出Chatbox等可视化工具的配置方法,并附有各环境官方下载链接与硬件配置建议。资源包共1个PDF文件,约177KB,篇幅精炼、结构清晰,便于按步骤对照操作。目前已有1408人学习下载。读者可据此掌握模型选型依据、命令执行要点与图形化交互配置思路,减少环境搭建中的试错成本,快速在本地跑通深度推理对话场景。
1. 从一次“装完却跑不动”的本地推理说起
上周帮一位开发者收拾一台旧笔记本,他按某篇教程装完 Ollama,敲下ollama run deepseek-r1:7b,终端里进度条走到 100%,提示 success,结果第一句话刚发出去,机器风扇狂转、内存直接顶到 98%,窗口卡死。问题不在模型,也不在命令,而是他从头到尾没确认过自己那台机器到底该选哪个参数规模。Deepseek 本地化部署这件事,装起来确实只有几步,但版本选错、显存不够、可视化工具连不上 API,是新手最容易翻车的三个点。这篇笔记按我自己的部署习惯走一遍:先把 Ollama 和 deepseek-r1 各版本的环境账算清楚,再落到 Windows 上的实际安装、模型拉取、Chatbox 图形界面配置,最后给一套装完能自证的验证方法。适合想在自己电脑上跑深度推理分析、又不想被云端额度卡住的人。
2. 装前把账算清:Ollama 版本与 deepseek-r1 参数规模对照
2.1 先定模型规模,再谈装什么
很多人顺序反了,先装 Ollama 再随手挑个模型,结果下载几个 GB 之后发现跑不动。正确的顺序是先看硬件,再定deepseek-r1的 tag,最后才是装框架。Ollama 本身对硬件要求很低,真正吃资源的是模型权重加载后的内存与显存占用。项目正文给了一张很实用的对照表,我把它整理成下面这张,顺便补上我实际部署时观察到的内存水位,方便你判断自己的机器落在哪一档。
| 模型 tag | C 盘占用(约) | 启动命令 | 建议内存 | 建议显存 | 适用场景 |
|---|---|---|---|---|---|
| deepseek-r1:1.5b | 1.1GB | ollama run deepseek-r1:1.5b | 8GB | 4GB | 老笔记本、纯体验 |
| deepseek-r1:7b | 4.7GB | ollama run deepseek-r1:7b | 16GB | 6GB 以上 | 日常问答、写代码辅助 |
| deepseek-r1:8b | 4.9GB | ollama run deepseek-r1:8b | 16GB | 6GB 以上 | 与 7b 接近,可对比效果 |
| deepseek-r1:14b | 9.0GB | ollama run deepseek-r1:14b | 32GB | 10GB 以上 | 深度推理、长文分析 |
| deepseek-r1:32b | 20GB | ollama run deepseek-r1:32b | 64GB | 24GB 以上 | 工作站级别 |
| deepseek-r1:70b | 43GB | ollama run deepseek-r1:70b | 128GB | 多卡 | 服务器部署 |
| deepseek-r1:671b | 404GB | ollama run deepseek-r1:671b | 远超普通机器 | 多卡集群 | 不推荐个人尝试 |
这张表里最容易被忽略的是“C 盘占用”这一列。Ollama 默认把模型权重放在用户目录下的.ollama里,Windows 上就是C:\Users\你的用户名\.ollama\models。7b 占 4.7GB 还好,14b 就是 9GB,32b 直接 20GB。C 盘剩余空间不足 30GB 的机器,我一般建议先改模型存储路径再拉模型,否则拉到一半磁盘满,报错信息还很不直观。改路径的方法是在系统环境变量里加一个OLLAMA_MODELS,指向一个空间充足的盘,比如D:\ollama\models,改完重启终端生效。这一步在官方文档里不显眼,但属于装之前就该做的准备。
2.2 Ollama 的下载与安装:Windows 上就一个 exe
Ollama 的获取入口是官网下载页,项目正文给了链接https://ollama.com/download。Windows 用户下载到的是OllamaSetup.exe,双击之后一路“下一步”即可,没有自定义组件、没有路径选择,装完在开始菜单或托盘区会出现一个小羊图标,这就是它在后台常驻的服务进程。这里有个细节值得说清楚:Ollama 装完不是“打开一个软件”,而是注册了一个本地 HTTP 服务,默认监听127.0.0.1:11434。你在终端里敲的ollama命令,本质是客户端在跟这个本地服务通信。所以后面 Chatbox 能连上它,靠的也是这个端口。
安装完成后,第一件事不是急着拉模型,而是验证服务是否真的起来了。打开 PowerShell,执行:
# 查看 Ollama 客户端版本,同时能间接确认命令已进 PATH ollama --version # 查看本地服务是否在监听 11434 端口 netstat -ano | findstr 11434第一条命令如果提示“无法识别 ollama”,多半是安装后没有重开终端,PATH 还没刷新,关掉 PowerShell 重新以管理员身份打开即可。第二条命令能看到LISTENING状态,说明后台服务正常。我遇到过装完图标在、命令却找不到的情况,基本都是终端会话太老,不是安装失败,别急着重装。
2.3 macOS 与 Linux 的差异点
虽然项目正文以 Windows 为主线,但同一套 Ollama 在另外两个平台上的装法差异值得提前知道,免得换机器时抓瞎。macOS 下载的是.dmg,拖进 Applications 即可,首次运行会在菜单栏出现羊图标;Linux 则是一条脚本:
# Linux 官方安装脚本,会创建 ollama 系统用户并注册 systemd 服务 curl -fsSL https://ollama.com/install.sh | sh # 装完检查服务状态 systemctl status ollamaLinux 上这条脚本会把 Ollama 注册成 systemd 服务,开机自启,模型默认落在/usr/share/ollama/.ollama/models。如果你是用普通用户跑,可能会遇到权限问题,常见做法是把当前用户加入ollama组,或者直接用sudo systemctl管理服务。macOS 和 Linux 都不需要手动配 PATH,这一点比 Windows 省心。三个平台共用的部分是模型 tag 和ollama run命令,所以后面拉模型的部分是通用的。
3. 拉取并运行 deepseek-r1:命令、参数与首次对话
3.1 用管理员终端执行 run 命令
模型拉取和启动是同一个命令完成的。在 Windows 开始菜单里右键,选择“终端管理员”或“PowerShell(管理员)”,然后按你选定的规模执行对应命令。以最常用的 7b 为例:
# 首次执行会自动从模型库拉取权重,然后进入交互式对话 ollama run deepseek-r1:7b这条命令背后做了三件事:检查本地是否已有该 tag 的模型,没有就去拉取;把权重加载进内存;启动一个 REPL 交互界面等你输入。拉取阶段会显示进度,完成后出现success提示,光标变成>>>,这时就可以直接输入问题。项目正文里强调“提示 success 就可以对话”,这个判断是对的,但要注意 success 只代表拉取完成,不代表推理速度让你满意。7b 在 16GB 内存的机器上首 token 延迟通常在几秒级,14b 会明显更慢,这是参数量决定的,不是装错了。
如果你只想拉取不想立刻对话,可以用ollama pull:
# 只下载模型,不进入对话 ollama pull deepseek-r1:7b # 查看本地已有哪些模型,确认 tag 和大小 ollama listollama list是后面排查问题时最常用的命令,它会列出模型名、大小和修改时间。有时候你以为拉的是 7b,实际手滑敲成了 8b,用这条命令一眼就能看出来。两个 tag 大小只差 0.2GB,但效果和资源占用略有区别,部署时按需选一个就行,不必都拉。
3.2 交互界面里的退出与重进
第一次进对话界面的人常犯的错是不知道怎么退出。在>>>提示符下输入/bye回车即可退出,或者按Ctrl+D。退出后再想对话,重新执行ollama run deepseek-r1:7b即可,不会重复下载,因为权重已经在本地了。这一点和很多人对“每次运行都要下载”的担心相反,Ollama 有本地缓存机制,第二次启动是秒开的。
对话界面里还有几个实用指令:/?查看帮助,/clear清空当前上下文,/save保存会话。上下文长度对推理质量影响很大,deepseek-r1 这类推理模型在长上下文下表现更好,但也会吃更多内存。如果你发现聊到十几轮之后机器开始卡,多半是上下文累积导致的,用/clear重置一下能缓解。我一般会在处理完一个独立问题后手动清一次,避免上下文互相污染。
3.3 模型存储路径与磁盘管理
前面提过OLLAMA_MODELS环境变量,这里展开说清楚怎么设。Windows 下打开“系统属性 → 高级 → 环境变量”,在“用户变量”里新建一条,变量名OLLAMA_MODELS,值填目标目录,比如D:\ollama\models。设置完成后必须重启 Ollama 服务(托盘图标右键退出再启动)和终端,新路径才生效。验证方法是拉一个小模型,然后去目标目录看有没有生成blobs和manifests两个子目录。
已经拉过的模型不会自动迁移,改路径后需要重新ollama pull。所以我的习惯是装完 Ollama、还没拉任何模型之前就把路径改好,省得后面搬来搬去。如果 C 盘已经被占满了,可以先ollama rm deepseek-r1:7b删掉旧模型释放空间,改完路径再重新拉。ollama rm只删本地权重,不影响已保存的对话记录(如果有的话)。
4. 接上 Chatbox:把命令行对话变成可视化窗口
4.1 安装 Chatbox 并选择本地模型模式
命令行对话对熟悉终端的人够用,但多数人还是想要一个能复制、能保存、能调字体的窗口。Chatbox 是项目正文推荐的可视化工具,下载页是https://chatboxai.app/zh#download。Windows 下载到的是Chatbox-1.9.5-Setup.exe,双击后一路下一步,装完首次启动会弹出设置向导。
向导里最关键的一步是模型来源的选择。界面上会问你是用云端 API 还是本地模型,这里必须选“使用自己的 API Key 或本地模型”,然后在提供商列表里选Ollama API。选错成云端提供商的话,后面填的地址和模型名都对不上,会一直报连接失败。这一步是新手翻车的高发区,因为向导的默认选项往往指向云端,手快点了下一步就得回头改设置。
4.2 配置 Ollama API 地址与模型名
进入 Ollama API 配置页后,需要填两个核心字段:API 地址和模型名称。地址填http://127.0.0.1:11434,这是 Ollama 本地服务的默认监听地址;模型名填你实际拉取的 tag,比如deepseek-r1:7b,要和ollama list里显示的完全一致,大小写和冒号都不能错。填完点“保存”,Chatbox 会尝试拉取模型列表做校验,能拉到就说明连通了。
API 地址:http://127.0.0.1:11434 模型名称:deepseek-r1:7b如果保存时提示连接失败,先回到终端确认 Ollama 服务还在跑,再检查地址里有没有多写斜杠或者把127.0.0.1写成localhost导致解析异常。我遇到过一例是地址末尾多了一个/,Chatbox 拼接请求路径时变成了双斜杠,服务端直接 404。这种问题看日志不明显,只能靠对照配置逐字检查。模型名填错的表现则是能连上但发消息报“model not found”,这时用ollama list核对一遍即可。
4.3 对话参数与使用习惯
Chatbox 里可以调温度、上下文条数等参数。对 deepseek-r1 这类推理模型,温度我一般设在 0.6 左右,太高会让推理链发散,太低又显得死板。上下文条数默认值偏小,处理长文档时可以适当调大,但要和机器内存匹配,调太大同样会卡。这些参数不是装完必须动的,先用默认值跑通,再按实际体验微调,是比较稳妥的顺序。
可视化窗口跑通之后,本地部署的价值才真正体现出来:对话记录留在本机,断网也能用,敏感内容不出本地。这也是很多人从云端转向本地部署的直接原因。不过要提醒一句,Chatbox 只是前端,真正的推理仍然在 Ollama 服务里完成,所以机器性能的天花板还是由模型规模和硬件决定,换个好看的界面不会让 7b 变快。
5. 避坑与排查:五条装坏了怎么救的记录
5.1 现象:ollama命令找不到,但托盘图标在
原因通常是安装后没有重开终端,PATH 环境变量还是旧会话的。解决方法是关掉所有 PowerShell 和终端窗口,重新以管理员身份打开再试。如果重开还不行,去“环境变量”里看用户变量的 Path 有没有包含 Ollama 的安装目录,没有就手动加一条,然后重启终端。极少数情况是安装包没装完就被中断,那就卸载重装,别在 PATH 上反复折腾。
5.2 现象:拉模型到一半报磁盘空间不足
原因是模型默认落在 C 盘用户目录,而 C 盘剩余空间不够。解决方法是先ollama rm掉拉了一半的模型,设置OLLAMA_MODELS指向空间充足的盘,重启服务和终端后重新ollama pull。判断空间够不够,看对照表里对应 tag 的占用,再留出至少 20% 余量,因为拉取过程中会有临时文件。
5.3 现象:Chatbox 保存配置时报连接失败
原因多半是 API 地址写错,或者 Ollama 服务没在跑。先在终端执行netstat -ano | findstr 11434确认端口在监听,再逐字核对地址是否为http://127.0.0.1:11434,注意不要带多余斜杠。如果端口没监听,重启 Ollama 托盘程序。还有一种情况是安全软件拦截了本地回环请求,临时关闭防护验证一下,能通就说明是拦截问题,把 Ollama 加入白名单即可。
5.4 现象:对话能发出去,但回复极慢或直接卡死
原因是模型规模超出硬件承受范围,或者上下文累积过多。先用ollama list确认当前跑的是哪个 tag,对照硬件表判断是否选大了,选大了就换小一号的 tag 重新拉。如果规模合适仍然卡,在对话界面用/clear清空上下文,或者退出重进。7b 在 8GB 内存机器上勉强能跑但体验很差,这种情况换 1.5b 更实际,不要硬扛。
5.5 现象:模型名填对却提示 model not found
原因是 Chatbox 里填的 tag 和本地实际拉取的 tag 不完全一致,常见于把deepseek-r1:7b写成deepseek-r1(省略 tag 会指向 latest,而本地可能没有 latest)。解决方法是终端执行ollama list,把显示的完整名称原样复制到 Chatbox 的模型名字段。另外注意冒号是英文半角,中文冒号看起来一样但解析会失败,这种细节肉眼很难发现,复制粘贴最稳。
6. 装完怎么验证:三步自证这套环境真的跑通了
装完不等于跑通,我习惯用三步做闭环验证,每一步都有明确的通过标准,任何一步不过就回到对应章节排查。这套方法比“随便问一句看看有没有回复”可靠得多,因为它把服务、模型、前端三层分别验证了一遍。
第一步,验证 Ollama 服务层。终端执行ollama --version和netstat -ano | findstr 11434,前者有版本号输出、后者有 LISTENING 记录,说明客户端和服务端都正常。这一步不过,后面全白搭,所以放在最前面。
第二步,验证模型层。执行ollama list,确认目标 tag 在列表里且大小与对照表吻合;再执行ollama run deepseek-r1:7b进入对话,输入一个需要简单推理的问题,比如“3 个苹果加 5 个苹果是几个”,能给出带推理过程的回答即通过。这里看的不只是答案对不对,还要看有没有输出推理链,deepseek-r1 的特性就在这。
第三步,验证前端层。打开 Chatbox,确认模型选择框里能选到deepseek-r1:7b,发一条消息能收到回复,且回复内容和终端里直接对话的风格一致。三步都过,这套本地部署才算真正可用。
| 验证层 | 命令或操作 | 通过标准 |
|---|---|---|
| 服务层 | ollama --version、netstat查端口 | 有版本号、端口 LISTENING |
| 模型层 | ollama list、ollama run | tag 在列、能出推理回答 |
| 前端层 | Chatbox 发消息 | 能选模型、能收回复 |
还有一个小技巧:验证时故意断网再发一条消息。如果本地部署真的跑通了,断网后对话应该照常工作,因为所有权重和推理都在本机。这一招能立刻区分“真本地”和“其实还在走云端”的情况,我每次部署完都会试一次。从那以后我每次装完本地模型,都强制走一遍这三层验证加断网测试,不再凭一句“有回复”就下结论。希望帮到你。
本文还有配套的精品资源,点击获取