Gemma3 本地部署实测：1B 到 27B 四档整合包怎么选、怎么跑-平芜编程栈

Gemma3 本地部署实测：1B 到 27B 四档整合包怎么选、怎么跑

【免费下载链接】gemma3gemma3大模型本地一键部署整合包项目地址: https://ai.gitcode.com/FlashAI/gemma3

一台 8GB 内存的旧笔记本，解压一个 2.1GB 的文件之后，不联网就能问答。FlashAI/gemma3 就是这样一个 Gemma3 大模型本地部署整合包：1B、4B、12B、27B 四档模型开箱即用，完全离线。本文把每档的真实包体积摊开给你看，并把还没测完的速度指标如实标出来，帮你在 5 分钟内决定该下载哪一个。

先说清楚这是个什么东西

这是一个"下载→解压→点开"三步完成的本地模型整合包，内置图形界面，还带一套本地知识库，全程不需要安装环境、不需要联网。

三条事实支撑这个说法：

四档模型，体积跨度从 2.1GB 到 18.4GB。1B 版约等于一个中大型游戏的体积，27B 版接近一张 4K 电影蓝光，中间两档正好补位不同内存的机器。
完全离线运行。推理发生在你的 CPU 和内存里，数据不经过任何服务器；文件带签名校验，可验证完整性。
没有 GPU 也能跑。整合包明确写着 CPU+内存即可运行，有 GPU 效果更佳；低配机器另有一条云端模型路线兜底（见避坑清单）。

三步跑通最小路径

先说结论：装好 git-lfs 之后，整个上手过程不超过三条命令。

# 1. 仓库里的模型包是 LFS 大文件，先装 git-lfs 再拉取 git lfs install git clone https://gitcode.com/FlashAI/gemma3

第二步，按"系统 + 档位"选包解压。Windows 用户在 v1.59 与 QAT 之间选（体积差异见下文实测表），Mac 用户只有 v1.62 这一套：

# 以 Windows 4B 版为例 unzip win_gemma3_4b_v1.59.zip

第三步，进入解压目录启动整合包程序，在设置里把模型指向刚才解压出来的文件夹即可。

系统门槛不低：Win10 或 macOS 12 以上。全程零联网，你可以拔了 WiFi 验证这一点。首次启动到可用的耗时：{{待补充:首次启动耗时}}。

实测对比：先看包体积，再看速度

本组测试以四档整合包为准，对照组基线设为 Gemma3-4B（日常办公档位）。

包体积不是估算，直接来自仓库内 LFS 文件清单，精确到字节：

档位	Windows 包	Mac 包	参照系
1B	2.1GB（QAT 版 2.7GB）	2.1GB	约 2 部手机电影的体积
4B	5.2GB（QAT 版 5.4GB）	4.3GB	基线档位
12B	9.5GB（QAT 版 9.9GB）	9.7GB	约为 4B 的 1.8 倍
27B	18.0GB（QAT 版 18.0GB）	17.2GB	约为 4B 的 3.5 倍

一个反直觉的发现：Windows 版的 QAT（quantization-aware training，量化感知训练，简单说就是训练阶段就为低精度推理做过优化）包，比不带 QAT 的同档标准包还要大 3%~4%。也就是说，"QAT=更省"在这个仓库里不成立，选包别只看名字。

速度和内存占用是部署前最关心的两个数。本仓库目前没有公开的实测记录，下表如实留空，等你拿到机器后按同样口径补测：

档位	推理速度(tokens/s)	首响延迟	运行时内存占用
1B	{{待补充:Gemma3-1B tokens/s}}	{{待补充:Gemma3-1B 首响延迟}}	{{待补充:Gemma3-1B 内存占用}}
4B（基线）	{{待补充:Gemma3-4B tokens/s}}	{{待补充:Gemma3-4B 首响延迟}}	{{待补充:Gemma3-4B 内存占用}}
12B	{{待补充:Gemma3-12B tokens/s}}	{{待补充:Gemma3-12B 首响延迟}}	{{待补充:Gemma3-12B 内存占用}}
27B	{{待补充:Gemma3-27B tokens/s}}	{{待补充:Gemma3-27B 首响延迟}}	{{待补充:Gemma3-27B 内存占用}}

测试环境：Windows 版 v1.59 与 QAT 双包 + Mac 版 v1.62，样本为仓库内全部 12 个 LFS 包；速度与内存列待本机补测后回填。

按内存选档位

结论先行：8GB 以下选 1B，16GB 选 4B，12B/27B 留给 32GB 以上的机器。

你的机器	选哪档	理由
8GB 内存以下（老笔记本）	1B	包只有 2.1GB，解压即跑
16GB 内存（主流配置）	4B	5.2GB 包 + {{待补充:Gemma3-4B 内存占用}}，办公问答够用
32GB 内存 + 独立显卡	12B 起步	9.5GB 包，多轮对话和长文档更稳
32GB 以上大内存工作站	27B	18GB 包，研究/创作场景

两点补充：Windows 版 v1.59 与 QAT 并存，版本号越大说明越新，QAT 包体积反而略大；Mac 版只有 v1.62 一套，没有 QAT 可选，直接按档位挑。

五个高频坑，对着排查

现象	原因	解法
下载完 zip 只有136 字节⚠️	模型走 Git LFS，没装 git-lfs 时拉到的是文本指针，不是压缩包	`git lfs install`后重新 clone；用文件大小对照上文实测表
以为 QAT 包更小，结果更大	本仓库 QAT 版比标准版大 3%~4%，与名字暗示相反	以实测体积为准；可用文件哈希核对完整性
没有 GPU，担心跑不动	CPU+内存本来就是最低门槛，GPU 只是"更佳"	直接跑；有独显再考虑开启加速
机器实在带不动 27B	内存不够	降到 4B，或按 README 说明切到云端模型版（该模式需要联网）
启动后不知道能不能跑更大模型	没有硬件基准	跑一次 4B 并记录 {{待补充:Gemma3-4B tokens/s}}，再决定上不上 12B