本文定位：帮你建立完整知识框架，并提供一条可复制的学习路径。
适用人群：刚入门大模型、想系统学微调但不知道从哪里下手的同学。
特别补充：包含资源计算、成本估算、硬件选型——这些是小白最容易忽略的核心内容。
一、先说清楚：这些技术到底是干嘛的？
| 技术 | 一句话解释 | 你什么时候需要它 |
|---|---|---|
| 预训练 | 让模型从0学语言和知识 | 你有一亿美元的时候 |
| 微调 | 让通用模型变成领域专家 | 你有垂直场景（医疗/法律/客服） |
| RLHF | 用人类反馈教模型“做人” | 你想让模型更符合人类偏好 |
| 蒸馏 | 大模型当老师，教出一个小模型 | 你需要把模型塞进手机/边缘设备 |
| 剪枝 | 删掉不重要的参数 | 你想让模型变瘦变快 |
| 推理 | 模型上考场答题 | 你把模型部署成API的时候 |
二、核心技能：资源计算与成本估算（小白最容易漏的）
在动手之前，你必须先算清楚：需要多少显存？花多少钱？
2.1 模型参数存储（基础）
| 精度 | 每个参数占多少字节 | 7B模型占多少显存 | 13B模型 |
|---|---|---|---|
| FP32（全精度） | 4 bytes | 28 GB | 52 GB |
| FP16/BF16（半精度） | 2 bytes | 14 GB | 26 GB |
| INT8（8位量化） | 1 byte | 7 GB | 13 GB |
| INT4（4位量化） | 0.5 bytes | 3.5 GB | 6.5 GB |
公式：加载模型的最少显存
显存(GB) = 参数量(亿) × 精度(bytes) ÷ 10.7亿
2.2 训练时额外显存（这才是大头）
训练时的显存远不止存模型：
| 训练组件 | 占用比例 | 7B-FP16的估算 |
|---|---|---|
| 模型参数 | 1x | 14 GB |
| 梯度 | 1x | 14 GB |
| 优化器状态（Adam） | 2x | 28 GB |
| 中间激活值 | 1-3x | 14-42 GB |
| 总计 | 5-7x | 70-98 GB |
这就是为什么全量微调普通人玩不起。
2.3 不同微调方法的显存对比
| 微调方法 | 7B模型显存 | 13B模型 | 推荐显卡 |
|---|---|---|---|
| 全量微调（FP16） | 70-100 GB | 130-180 GB | 多卡A100 |
| LoRA（FP16） | 16-20 GB | 28-35 GB | RTX 4090 (24GB) |
| QLoRA（INT4） | 6-8 GB | 10-12 GB | RTX 3060 (12GB) |
2.4 成本估算
| 资源类型 | 价格参考 | 说明 |
|---|---|---|
| 云GPU（按小时） | 2-30元/小时 | AutoDL、算力云、阿里云 |
| 云GPU（按月） | 1000-8000元/月 | 长期用更划算 |
| 本地显卡 | 3000-20000元 | RTX 3060/4060/4090 |
| 7B QLoRA微调一次 | 约10-50元 | 2-10小时训练 |
| 13B LoRA微调一次 | 约50-200元 | 10-30小时训练 |
三、资源计算与成本估算（文章链接）
| 文章 | 核心内容 | 推荐理由 |
|---|---|---|
| 估算大模型所需显存（阿里云官方文档） | 推理/全量微调/LoRA/QLoRA的显存计算公式，含7B模型完整估算表 | 官方权威，有明确公式和表格 |
| 显存不够？16G显卡驾驭13B模型的计算与优化全指南 | 16G显卡跑13B模型的显存计算、INT8量化、LoRA配置 | 解决“显存焦虑” |
| 手把手教你调出“懂你”的AI：大模型微调实战与资源管理 | 五大核心参数详解+不同显存配置的参数配置表 | 参数调优+显存配置表 |
| 用AI跑模型要多少钱？一次训练任务的GPU服务器价格实算 | 训练时长预估、GPU单价、总成本计算公式 | 算钱+省钱技巧 |
| 企业级大模型开发成本大概多少？ | 训练/微调/部署三阶段的硬件+人力+数据成本明细 | 完整成本清单 |
四、完整学习路径（按顺序刷）
🔰 阶段0：认知准备（1-2天）
- 收藏！小白程序员轻松入门大模型微调技术（附资料库）
- LLM 盛行，如何优雅地训练大模型？
✅ 学完你能：说出LoRA、QLoRA、Adapter的区别，知道训练需要多少显存。
🧪 阶段1：数据准备（最容易被忽略）
小白最缺的不是算力，是数据。
- 大模型微调数据准备终极指南（示例链接）
- 如何以最有效的方式准备微调数据集
✅ 学完你能：自己爬取/整理100条高质量微调数据，并转换成Alpaca格式。
⚙️ 阶段2：动手微调（第一次跑通代码）
- 【AI大模型】从零开始运用LORA微调ChatGLM3-6B大模型并私有数据训练
- Datawhale出品：《GLM-4 大模型部署微调教程》（被智谱官方推荐）
✅ 学完你能：成功跑通微调，看到模型输出发生明显变化。
📊 阶段3：评估与调参（从“跑通”到“好用”）
- 如何评估微调后的大模型？（示例链接）
- LoRA微调查参全记录：从r=1到r=64（示例链接）
- 金三银四大模型从基础到进阶：全面解析与实战指南
✅ 学完你能：读懂Loss曲线，知道什么时候该停，能对比不同r值的效果。
🧩 阶段4：扩展技能树（蒸馏/剪枝/RLHF）
蒸馏（大模型教小模型）
- 完整教程：高效推理：AI大模型在医学影像分类中的模型量化、剪枝与蒸馏
- 使用Python实现深度学习模型：知识蒸馏与模型压缩
剪枝（删掉不重要的参数）
- 同上第一篇（蒸馏+剪枝+量化合在一起讲）
RLHF（让模型学会“做人”）
- InstructGPT实战解析：从SFT到RLHF的完整训练流程
✅ 学完你能：跑通蒸馏/剪枝/RLHF的最小Demo，理解它们的核心思想。
🚀 阶段5：部署推理（让模型真正能用）
- GLM-4教程中的vLLM部署部分
- 端侧大模型实战指南：微调、部署、应用开发
✅ 学完你能：用vLLM部署自己的模型，知道首token延迟怎么优化。
🎯 阶段6：端到端整合（做一个完整项目）
- 大模型微调实战——从数据准备到落地部署全流程
- 大模型微调实战指南：从零开始定制你的专属LLM
✅ 学完你能：独立完成一个小型微调项目，并部署成可用的API。
五、学生党低成本方案
- 云GPU推荐：AutoDL、算力云、恒源云（按小时计费，2-5元/小时）
- 模型选择：Qwen-7B、ChatGLM3-6B、Llama-3-8B
- 微调方法：QLoRA（4-bit量化）
- 参数设置：batch_size=1 + gradient_accumulation=4
- 月预算：50-200元（每天练2-4小时）
六、常见坑与解决方案
| 问题 | 最可能的原因 | 解决方案 |
|---|---|---|
| Loss不下降 | 学习率太大 / 数据格式错误 | 降到1e-5，检查数据 |
| 显存溢出 | batch太大 / 序列太长 | 用gradient_accumulation |
| 模型生成重复 | 温度太低 | temperature=0.8 |
| 微调后通用能力下降 | 灾难性遗忘 | 减少epochs，混入通用数据 |
| 教师模型推理太慢 | 未用批量推理 | 用vLLM加速 |
七、你能学到什么程度？
按照这条路径学完（边看边动手，每个阶段至少跑通一个Demo），你能做到：
- ✅ 独立准备微调数据集
- ✅ 用LoRA/QLoRA微调7B-13B模型
- ✅ 读懂Loss曲线，判断过拟合/欠拟合
- ✅ 调优r、alpha、学习率等关键参数
- ✅ 用vLLM部署自己的模型
- ✅ 知道蒸馏/剪枝/RLHF是什么
- ✅估算自己需要的显存和成本
八、最后的建议
- 先算资源，再动手：用上面的公式算清楚显存，别等跑起来才发现不够。
- 学生党用QLoRA：6-8GB显存就能微调7B模型。
- 云GPU按小时租：不要一开始就买卡。
- 做一个完整项目：比读10篇文章有用。
你的下一步：打开阿里云官方文档，算一下你的模型需要多少显存。
如果卡住了，欢迎在评论区留言。
祝你早日成为微调高手！
