如果你手头正好有一台 Mac,又刷到过 “Ollama 本地大模型” 这个词,那么这篇东西就是给你准备的。标题里的关键词很直白:Mac、Ollama、本地大模型、落地优化。我用一台 M 系列芯片的 MacBook 从零开始实操,把安装、下载慢、模型管理、接口调用、配合编辑器写代码、性能调优、坑位排查全部走了一遍,这篇文章基本就是完整的过程记录。适合刚接触本地大模型、想用 Mac 跑自己的私有模型、又不想被各种教程碎片搞得晕头转向的人。看完之后,你可以照着里面每一步直接复现。
先给你交个底:Ollama 的本质是一个本地大模型运行工具,核心能力就是帮你把开源模型拉下来、跑起来,再通过一行命令或一个 HTTP 接口对外提供服务。它把模型下载、环境依赖、GPU/CPU 调度、API 服务封装得极其简单,复杂度全部收在底层。Mac 上部署它的门槛其实很低,真正麻烦的是国内网络环境下下载模型容易卡住、模型放在哪里、怎么跟 Dify / VS Code 这类工具联动、以及跑起来之后内存不够用怎么优化。这篇文章就是围绕这几个问题展开的。
1. 为什么是 Ollama?落地前的几个关键认知
1.1 Ollama 到底做了什么,和直接跑 Python 推理有什么区别
很多人第一次接触本地大模型时,第一反应是去 Hugging Face 下载模型权重,然后写 Python 脚本用 transformers 加载,再手动处理 tokenizer、设备映射、显存或内存分配。这套流程不是不行,而是太繁琐,尤其到了 Mac 上,各种依赖版本冲突能折腾掉一个周末。
Ollama 的定位是把这个过程封装成“一行命令搞定”:它利用 llama.cpp 作为底层推理引擎,针对 Apple Silicon 做了 Metal 加速,模型文件用 GGUF 格式统一管理,你不需要关心怎么从 safetensors 转 GGUF,也不用管 KV Cache 怎么分配。你只需要告诉它“我要跑 qwen2.5:7b”,它就把模型拉下来,默认监听 11434 端口,同时暴露一个和 OpenAI 兼容的 HTTP API。
这个设计带来的直接好处是:你拉下来的模型可以被任何支持 OpenAI API 格式的工具直接调用,比如 VS Code 里的 Continue、Cline,或者 Dify 这类 LLM 应用平台。你在本地跑一个大模型,本质上就是拥有一台完全私有、不联网、数据不出机器的“API 服务器”,这对隐私敏感场景非常有用。
1.2 Apple Silicon 和 Intel Mac 的体验差异,先搞清自己的硬件底子
写 Mac 本地模型教程,必须先讲芯片。Apple Silicon(M1、M2、M3、M4 系列)和 Intel 老款 Mac 在跑模型时的体验完全不是一回事。
Apple Silicon 的特点是统一内存架构,CPU 和 GPU 共享同一块内存,芯片可以直接通过 Metal 框架把模型权重映射到 GPU 上做推理。这意味着你机器的物理内存大小,基本决定了你最多能跑多大的模型。比如 8GB 内存的 M1,跑 7B 参数的量化模型已经很紧;16GB 内存的 M2,跑 7B 甚至 14B 的量化模型体验不错;32GB/64GB 内存的机器,可以尝试 30B 以上的大模型。
Intel Mac 也不是完全不能跑,Ollama 对 Intel 平台也有支持,但只能用 CPU 推理,速度会明显慢不少,尤其生成长文本时能感受到差距。如果你是 Intel Mac,建议优先选择更小的模型比如 3B、4B 版本,并且把注意力放在上下文长度控制上。
这类硬件“事前认知”很重要,网上很多教程不区分芯片型号直接推荐模型,导致很多人跑起来爆内存或者卡到怀疑人生,其实不是工具的问题,是选型没做对。
1.3 模型选型建议:从 1.5B 到 72B,你的 Mac 适合哪档
Ollama 官方 Model Library 里的模型很多,选模型的思路不能只看参数数量,还要看量化格式。我用 Ollama 的标签体系给你拆一下,比如qwen2.5:7b表示 7B 参数的 Qwen2.5,默认是 Q4_K_M 量化,实际占用内存大概在 4.7GB 左右。数字可能随版本有细微变化,但你心里要有个尺子:模型文件大小 + 推理时的 KV Cache 开销,才是真实的内存占用。
我的经验是这样划分档位:
- 1.5B ~ 3B 系列:适合 8GB 内存的入门 Mac,代表有
qwen2.5:1.5b、phi3:mini、gemma3:4b,日常问答、简单代码补全够用。 - 7B ~ 8B 系列:适合 16GB 内存的主流配置,代表有
qwen2.5:7b、llama3.1:8b、gemma3:12b,这是我最推荐的日常档位。 - 14B ~ 32B 系列:适合 32GB 内存,代表有
qwen2.5:14b、qwen2.5:32b,语言理解质量明显提升。 - 70B 以上:除非你的是 64GB 以上内存的 Mac Studio,否则别轻易尝试,虽然能加载但速度会让人崩溃。
我实测过,16GB 内存的 M2 跑qwen2.5:7b非常流畅,输出速度大约每秒 20~30 token,肉眼看起来很舒服;跑qwen2.5:14b也能跑,但内存压力大,其他应用容易卡顿。这个选型建议,后面内容里还会围绕它进一步展开。
2. 从零安装:下载慢与安装报错的完整解决方案
2.1 官网安装包和 Homebrew 两种方式,哪个更推荐
Ollama 在 macOS 上的安装方式主要有两种。第一种是直接去官网下载 .zip 安装包,拖进 Applications 就完事;第二种是通过 Homebrew 执行brew install ollama。两种方式我都试过,官网安装包更快,因为它的下载地址走的是 CDN,成功率相对高一些。Homebrew 方式更适合本来就用 brew 管理软件的开发者,升级方便。
但这里有一个很多新手没意识到的问题:无论是官网包还是 Homebrew 包,你后面真正花时间的不是安装应用本身,而是拉取模型。模型默认从 Ollama 的 registry 下载,几百 MB 到几 GB 不等的文件,在部分网络环境下会一直卡住。关于这个“下载慢”的痛点,我后面第 3 节有专门对策。
另外,很多人在 Mac 上安装 Ollama 时会遇到“已损坏,无法打开”的系统提示。这个不是 Ollama 本身损坏,而是 macOS 的 Gatekeeper 安全机制拦截了非 App Store 来源的软件。解法是用右键点击应用图标,选择“打开”,再在弹窗中确认;如果还不行,可以在终端执行xattr -dr com.apple.quarantine /Applications/Ollama.app。
2.2 Homebrew 安装报错的典型修复过程
热词里提到“mac安装homebrew报错”,这是另一个高频头疼点。很多人为了装 Ollama 先去装 Homebrew,结果 Homebrew 本身就装不上。原因大多数集中在网络连接和路径权限两块。
安装 Homebrew 的标准命令是:
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"这条命令失败时,你会看到 curl 报错“Failed to connect to raw.githubusercontent.com port 443”。这不是命令写错了,是 raw.githubusercontent.com 这个域名在部分地区解析不正常。解决方案不是反复重试,而是先测试连通性:
ping raw.githubusercontent.com如果 ping 不通,说明 DNS 解析异常,可以尝试更换 DNS 到公共 DNS(比如 223.5.5.5 或 119.29.29.29),或者直接使用国内可访问的 Homebrew 安装脚本镜像。很多开源镜像站提供了 install.sh 的同步,你可以先下载脚本再本地执行,整个逻辑和官方安装完全一致。
还有一类报错是“Cannot write to /usr/local/Cellar”或“Permission denied”。这类问题集中在 Intel Mac 上,因为 Homebrew 默认安装到/usr/local,目录权限被 system 占用。解决办法是按官方推荐,在终端执行sudo chown -R $(whoami) /usr/local来修正目录归属,然后再跑安装脚本。
2.3 安装完成后立刻要做的事:确认命令行和后台服务状态
不管用哪种方式安装完,首先要确认 Ollama 的命令行工具是否可用。打开终端执行:
ollama --version正常会输出类似ollama version 0.x.x的信息。如果没有输出,先检查安装目录。官网包安装后命令行工具一般在/usr/local/bin/ollama,Homebrew 安装后会软链到/opt/homebrew/bin/ollama(Apple Silicon)或/usr/local/bin/ollama(Intel)。确认路径后用export PATH加上即可。
下一步是启动服务。Ollama 在 macOS 上安装后默认会在后台开启服务端,但你也可以用命令手动启动:
ollama serve看到Listening on 127.0.0.1:11434就表示服务正常运行。此时打开另一个终端窗口,执行:
ollama list如果显示空的模型列表,说明环境已经通了。万事开头难,到这里你的本地大模型环境骨架已经搭好,接下来才是重头戏:把模型真正拉下来。
3. 模型下载、管理、迁移与数据清理,一篇讲透
3.1 拉取模型太慢的根因分析和镜像加速方案
大家最关心的问题来了:“ollama下载太慢了”怎么办。我第一次拉qwen2.5:7b的时候也卡了很久,进度条几乎不动。核心原因很简单:Ollama 默认的模型下载地址是 registry.ollama.ai,这个域名在国内网络环境下访问不稳定。
要解决这个问题,思路有两种。第一种是配置国内可访问的镜像源。Ollama 支持通过环境变量OLLAMA_HOST来控制 API 服务地址,但我实测下来,镜像下载的思路更实用:你可以在终端设置OLLAMA_MODELS环境变量,这个变量决定模型文件的存放路径;再配合镜像站把模型文件下到本地。
第二种思路是“曲线救国”:用支持断点续传的下载工具把模型文件拉下来,手动放进模型目录。比如你先用浏览器或下载工具单独下载 GGUF 模型文件,然后把它放到~/.ollama/models/blobs目录,再用ollama create从 Modelfile 创建模型。这个方法虽然多几步,但胜在稳定可控,不受命令行的网络波动影响。
更简洁的方案是直接替换镜像源。具体操作是:获取模型对应的 manifest 信息,把仓库地址指向镜像站。不过这套流程对新手来说偏复杂,我给你的最小可操作方案是:优先选择国内社区有缓存的模型,并且不断重试、配合晚上网络较好的时段拉取,同时把模型目录设置到一个空间充足的磁盘分区,避免因磁盘满导致下载中断。
3.2 模型目录的调整:把大模型从系统盘挪出去
macOS 的系统盘经常告警,而大模型动辄几个 GB,如果你只有 256GB 硬盘,跑几个模型就满了。所以安装完 Ollama 第一件事,我强烈建议你先把模型目录改到外部存储或者另一个分区。
方法是在用户目录的配置文件里加环境变量。比如在~/.zshrc里写:
export OLLAMA_MODELS=/Volumes/ExternalDrive/ollama-models保存后执行source ~/.zshrc,重启 Ollama 服务。之后所有新拉取的模型都会存到这个新目录,旧目录里的文件你需要手动移动。这里有个细节:如果旧模型已经存在,直接把~/.ollama/models里的内容复制到新目录再重启服务,ollama list仍然能识别,因为 Ollama 是通过 blobs 的哈希值来索引模型的。
我见过很多人拉完模型才发现系统盘满了,然后又重新去清理缓存,白白浪费时间。所以这个改动建议在新手阶段就做完,它可以避免后面重蹈覆辙。
3.3 模型管理命令实操:list、pull、rm、cp 的完整用法
Ollama 的命令行设计得比较简单,但很顺手。我日常最常用的命令就这么几条:
ollama pull qwen2.5:7b # 拉取模型,不带 tag 时默认 latest ollama list # 查看本地已有模型 ollama rm qwen2.5:7b # 删除指定模型 ollama cp qwen2.5:7b qwen2.5-backup # 复制模型 ollama show qwen2.5:7b # 查看模型详情,包括参数和量化信息ollama show这条命令容易被忽略,其实非常有用。它能显示模型的上下文长度、层数、参数量、嵌入向量维度等,对判断模型是否适合某台机器很有帮助。
还有一个容易被忽略的细节:同一个模型名可以带不同的 tag,比如qwen2.5:3b、qwen2.5:7b、qwen2.5:14b是完全不同的文件。当你拉模型时不知道有哪些可用 tag,可以去官网 Model Library 页面,那里有完整的标签列表。
3.4 Mac 系统数据清理:模型残留和缓存文件处理
热词里有“mac系统数据怎么清理”,这多半是系统盘飘红之后的求助。有一个常见情况:你用 Ollama 拉了一个模型,用得不满意删了,但发现系统空间并没有恢复多少。这是因为 Ollama 的模型文件放在~/.ollama/models,其中 blobs 目录下是哈希命名的文件,ollama rm会正确清理引用,但如果你手动删除过 ollama 目录,或者中途中断过下载,blobs 里会残留一些未引用的文件。
清理方式是先执行ollama list看有哪些模型,再执行ollama rm删除不用的模型,最后看~/.ollama/models/blobs目录下有没有文件大小特别大但未被引用的。判断方法很简单:如果ollama list和 blobs 目录里的文件对不上,就可能是残留。确认没用后手动删除即可。
另外,Ollama 的日志文件有时也会积累,在 macOS 上日志位于~/.ollama/logs/目录,如果你需要排查问题可以看 serve.log,如果不需要可以定期清空。
4. 把 Ollama 接进日常开发与工作流
4.1 本地接口调用:OpenAI 兼容 API 的上手方式
Ollama 真正的价值不只在于一个命令行聊天窗,而在于它可以作为一个 API 服务供其他工具调用。启动 Ollama 服务后,默认监听http://127.0.0.1:11434,它的接口基本兼容 OpenAI 格式。
最简单的聊天接口长这样:
curl http://127.0.0.1:11434/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "qwen2.5:7b", "messages": [{"role": "user", "content": "你好,请介绍一下你自己"}] }'返回结果里会有choices数组,和 OpenAI 的响应结构几乎一样。这意味着很多原本面向 OpenAI 的工具,只需要把 base URL 改成http://127.0.0.1:11434/v1,API Key 随便填一个字符串,就能直接连到本地模型。
如果你写 Python,可以用 openai 库来调用:
from openai import OpenAI client = OpenAI( base_url="http://127.0.0.1:11434/v1", api_key="ollama", # 本地服务,key 随意填 ) resp = client.chat.completions.create( model="qwen2.5:7b", messages=[{"role": "user", "content": "用 Python 写一个快速排序"}], ) print(resp.choices[0].message.content)这套调用方式的好处是,以后你如果要切换到远端的 OpenAI 或其他云服务,代码结构不用大变,只需要换 base_url 和 key,迁移成本极低。
4.2 VS Code 接入本地模型:Continue 和 Cline 插件实测
热词里出现“vscode如何使用本地大模型”、“mac cursor”,这两个需求本质上是一样的:把 AI 辅助编程的能力从云端搬到本地。Cursor 本身就是带 AI 能力的编辑器,但在国内网络环境下,云端的模型服务有时不太稳定;而 VS Code 的插件生态更灵活,能自由对接 Ollama。
我推荐的方式是安装 Continue 插件。在 VS Code 扩展商店搜索 Continue,安装后在设置里配置模型提供方。把 provider 选为 Ollama,base URL 填http://127.0.0.1:11434,模型选你本地已有的比如qwen2.5:7b,就能在侧边栏实现代码问答、代码解释、选中文档自动补全等能力。Continuous 的对话流支持多轮上下文,用起来非常接近 Cursor 的 Chat 体验。
另一种方式是 Cline(原名 Claude Dev),它能在 VS Code 里实现自动写代码、执行终端命令、编辑文件等 agent 式操作。Cline 同样支持 Ollama 作为后端,在设置中选择 Ollama 并填入本机地址即可。搭配本地模型后,整个编辑器的 AI 行为完全离线,不担心代码被上传到云端。
我实际测下来,7B 模型做代码补全和常见问题的解释已经够用,但做大规模重构和跨文件 agent 任务时,还是 14B 以上的模型更靠谱。如果你是做日常 CRUD 开发、脚本编写,7B 档位的性价比最高。
4.3 Dify 接入 Ollama,搭建私有 AI 工作流
热词里有“dify使用ollama设置本地大模型”,Dify 是一个开源 LLMOps 平台,可以让你用拖拽的方式搭建知识库问答、Agent 应用等。它是目前和 Ollama 配合最顺滑的可视化工作流平台之一。
Dify 对接 Ollama 的步骤并不复杂。首先确保 Ollama 已经运行,并在 Dify 的设置页找到“模型供应商”,选择 Ollama。填入 API 地址http://127.0.0.1:11434/v1,模型名填你本地已有的比如qwen2.5:7b,模型类型选对话型,保存后再去应用设置里把默认模型切换过来。
这里有一个大坑:Dify 和 Ollama 如果运行在同一台 Mac 上,通常没问题;但如果你把 Dify 跑在 Docker 容器里,容器里的127.0.0.1并不是宿主机的地址,而是要填host.docker.internal,才能从容器内访问到 Mac 本机的 Ollama 服务。我第一次配置时在这个地方卡了二十分钟,填 127.0.0.1 一直报连接失败,换成host.docker.internal:11434马上就通了。
Dify 接上 Ollama 之后,你可以构建一个包含知识库检索、意图识别、最终生成答案的完整流程。所有数据都在本地流转,适合企业内部知识库、私人学习助手这类场景。如果你有敏感数据不想走云端,这个组合非常实用。
4.4 局域网访问:让局域网内其他设备连上你的模型
还有一个经常会遇到的需求:把 Mac 作为一台模型服务器,让同一局域网内的其他电脑或手机也来调用。默认情况下 Ollama 只监听 127.0.0.1,外部设备无法访问,你需要改监听地址。
在~/.zshrc里设置:
export OLLAMA_HOST=0.0.0.0:11434重启 Ollama 后,局域网内的其他设备就可以通过http://你Mac的局域网IP:11434来访问。注意这里的 0.0.0.0 表示监听所有网络接口,使用时要注意局域网的安全性。
调用方式不变,其他设备只需把 base URL 改成http://192.168.x.x:11434/v1即可。这个方案非常适用于多设备共享一台大内存 Mac 的场景,毕竟不是每台电脑都有 32GB 内存,把模型服务集中在一台强配置的 Mac 上,其他设备轻量调用,是效率最高的落地方式。
5. 性能优化与资源控制,让模型跑得更顺滑
5.1 通过环境变量控制并发、上下文长度和内存策略
很多人以为模型跑得慢是机器不够好,但其实很多时候是默认参数没有针对你的使用场景调优。Ollama 提供了一组环境变量,能让你控制并发和上下文长度:
OLLAMA_NUM_PARALLEL:并行处理请求数,默认值视模型而定,调高了会占更多内存,但对多请求场景有帮助。OLLAMA_MAX_LOADED_MODELS:同时加载到内存的模型数量,默认 3,设小一点可以省内存。OLLAMA_CONTEXT_LENGTH:默认上下文长度,影响 KV Cache 占用,调小可以减少内存压力。OLLAMA_KEEP_ALIVE:模型在内存中保持存活的时间,默认 5 分钟,设成-1表示一直驻留,减少重复加载时间。
举个例子,如果你只想跑一个模型,并且希望它随时响应,可以在启动前设置:
export OLLAMA_MAX_LOADED_MODELS=1 export OLLAMA_KEEP_ALIVE=-1 export OLLAMA_NUM_PARALLEL=4这套配置下,模型一直驻留在内存中,多条请求并行处理,响应速度会明显变快。反过来,如果你的内存紧张,就把并行数调小到 1,保持内存充裕。
5.2 量化版本的意义:为什么 Q4_K_M 是日常首选
GGUF 格式的模型有不同量化等级:Q2_K、Q3_K、Q4_K_M、Q5_K_M、Q8_0、F16 等。简单理解,量化就是把模型的浮点权重压缩成更低位数的表示,换取更小的文件体积和更快推理速度,代价是稍微损失一点精度。
以 7B 模型为例,F16 原始权重大约 14GB,Q8_0 大约 7.2GB,Q4_K_M 大约 4.7GB。对于 16GB 统一内存的 Mac,跑 F16 能加载但很紧张,跑 Q4_K_M 则从容很多。而 Q4_K_M 是目前质量和体积比最均衡的一个档位,文本生成质量下降不明显,但资源开销大幅降低。
实际选择时的建议:16GB 内存优先选带q4或者默认 tag 的版本;32GB 内存想追求质量,可以选 Q8_0;如果你用外部存储不在乎空间,也可以尝试 F16。Ollama 的命令行里可以通过ollama pull qwen2.5:7b-q8_0这样的 tag 直接拉指定量化版本,非常方便。
5.3 16GB 内存 Mac 的实测体验与后续优化思路
我手上的 M2 MacBook 是 16GB 内存。我用它跑过几种方案,给你一个直观参考:
- 跑
qwen2.5:7bQ4_K_M:内存占用约 5~6GB,系统还剩 10GB 左右,同时开浏览器和编辑器没有明显卡顿。 - 跑
qwen2.5:14bQ4_K_M:内存占用约 9~10GB,系统内存压力升高,开多个应用时会感受到卡顿,但单跑模型速度还是能接受。 - 跑
gemma3:12b:体感和 14B 类似,属于 16GB 的上限级别。
如果后续你发现 macOS 频繁卡顿,可以检查“活动监视器”里的内存压力图,如果长期处于红色区域,就需要回到更小的模型,或者缩减上下文长度、减少并行数。硬件内存是硬约束,软件优化只能微调,模型选型才是根本。
6. 常见问题与排查技巧实录
6.1 高频报错速查表
我在整个实操过程中遇到了不少报错,这里整理成一张速查表,方便你直接对照解决:
| 报错信息 | 原因分析 | 解决方案 |
|---|---|---|
model not found | 本地没有这个模型名或 tag 不存在 | 检查标签名,比如qwen2.5:7b是否写错,先ollama search或去官网确认 |
connection refused | Ollama 服务没有启动,或端口被占用 | 执行ollama serve手动启动,检查 11434 端口是否被占用 |
context deadline exceeded | 下载或推理超时,网络不稳定 | 更换网络环境,下载大模型时保持网络稳定,或拆分多轮重试 |
docker: host.docker.internal not found | Docker 容器内访问宿主机方式错误 | 在容器启动时加--add-host=host.docker.internal:host-gateway |
Failed to connect to raw.githubusercontent.com | Homebrew 安装脚本域名访问异常 | 更换 DNS 或使用国内源下载安装脚本本地执行 |
cannot write to /usr/local/Cellar | Homebrew 目录权限不足 | sudo chown -R $(whoami) /usr/local后重试 |
| 应用弹出“已损坏” | Gatekeeper 拦截 | 执行xattr -dr com.apple.quarantine /Applications/Ollama.app |
这张表里没有列出的报错,你可以在命令行前加一些调试参数再运行,比如--verbose参数或查看~/.ollama/logs/serve.log日志,大部分情况日志里都会有明确信息。
6.2 端口冲突和 host 配置问题怎么查
如果你的 11434 端口已经被别的程序占用,Ollama 服务可能无法正常启动。排查方式很直接:
lsof -i :11434如果输出里有 PID 和进程名,说明端口被监听。此时可以先关掉占用进程,或者更换 Ollama 的端口:设置环境变量OLLAMA_HOST=127.0.0.1:11435再启动服务。
另外,如果你在一台机器上既跑 Docker 里的 Dify 又跑 Ollama,容易混淆127.0.0.1和host.docker.internal。这个问题的判断标准很简单:容器里填宿主机地址时用host.docker.internal,宿主机自己访问时用127.0.0.1,记住了就不会出岔子。
6.3 开机自启与后台服务的日常管理
Ollama 在 macOS 上安装后,默认会以 LaunchAgent 方式在后台运行,这意味着你不需要每次手动启动。但如果你通过ollama serve手动启动过,可能会和后台服务产生端口冲突。这时你应该先停掉手动进程,再让系统服务接管。
如果你想完全自己控制启动方式,可以关闭 LaunchAgent:
launchctl unload ~/Library/LaunchAgents/com.ollama.plist之后再想用的时候手动执行ollama serve即可。用 Homebrew 安装的话,还可以用brew services start ollama和brew services stop ollama来管理。
我个人比较推荐保留后台服务方式,因为这样你在任何终端窗口直接敲ollama run就能开始对话,不用关心服务生命周期,省心很多。
6.4 升级与回滚:如何避免新版本带来的不稳定
Ollama 迭代速度很快,新版本通常会有性能优化和新功能,但有时也会带来新问题。如果你之前用得好好的,升级后突然变慢或报错,可以回滚到旧版本。
官网的 GitHub Releases 页面提供了历史版本,下载对应的 macOS 安装包重新安装即可。用 Homebrew 的话,可以先查一下本地已安装的版本和可用版本:
brew list --versions ollama brew info ollama如果你需要锁定某个版本而不是每次升级都跟着走,可以写进 Brewfile 或者选择官网手动安装包。稳定性优先的场景,我建议不要频繁升级,等社区反馈新版本稳定后再动手。
最后再分享一个经验
整个流程走下来,我的体会是:Ollama 在 Mac 上的落地不难,难的是网络、选型和内存规划。下载慢这件事,折腾过几次后你就会发现,换一个网络环境或者错峰下载往往比费劲找镜像更省时间;模型选型这件事,也不要一味追求大参数,16GB 内存的 Mac 跑 7B 模型的整体体验,比强行跑 14B 然后各种卡顿要好得多。还有一个小技巧:如果你每天都要用 Ollama,建议把OLLAMA_KEEP_ALIVE=-1和OLLAMA_MAX_LOADED_MODELS=1写进~/.zshrc,这样每次启动终端后模型常驻,响应速度明显提升。往后如果你的需求升级到多模型并发或知识库应用,再按这篇文章里的路径去加 Dify、Continue 这些外围工具,整个体系会非常顺手。