无需编程基础！轻松实现 Qwen2.5-7B 自我认知微调
1. 引言：让大模型“认识”自己
你有没有想过，让一个大语言模型知道自己是谁开发的、由谁维护？这听起来像是科幻电影里的桥段，但其实通过简单的微调技术，我们就能轻松实现。本文将带你用最直观的方式，为Qwen2.5-7B-Instruct模型注入“自我认知”，让它从一个通用助手，变成一个明确归属于“CSDN 迪菲赫尔曼”的专属AI。
整个过程不需要你懂复杂的代码或深度学习理论，只需要跟着步骤操作，十分钟内就能完成一次完整的微调。我们将使用预置好的镜像环境，省去繁琐的配置，直接进入核心环节——数据准备、模型训练和效果验证。
1.1 什么是“自我认知”微调？
简单来说，就是教会模型回答关于“你是谁”、“谁开发了你”这类问题。默认情况下，Qwen2.5-7B会回答“我是阿里云开发的...”。我们的目标是让它学会说：“我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。”
1.2 为什么选择 LoRA 微调？
LoRA（Low-Rank Adaptation）是一种高效的参数微调方法。它不修改模型的主体权重，而是通过添加少量可训练的“适配器”（Adapter）来调整模型行为。这种方式有三大优势：
- 显存占用低：仅需约18-22GB显存，单张RTX 4090D即可运行。
- 速度快：训练过程快速，适合快速迭代。
- 易于部署：微调后的权重文件小，便于加载和切换。
接下来，让我们一步步开始吧！
2. 环境与资源概览
在开始之前，请确保你的硬件和软件环境满足以下要求：
| 项目 | 要求 |
|---|---|
| 工作路径 | /root |
| 显卡要求 | NVIDIA RTX 4090D（或同等24GB+显存显卡） |
| 基础模型 | Qwen2.5-7B-Instruct |
| 微调框架 | ms-swift（已预装） |
| 显存占用 | 训练时约18GB~22GB |
本教程基于一个开箱即用的镜像环境，所有依赖均已配置完毕，你只需专注于微调本身。
3. 原始模型基准测试
在进行任何修改前，先看看原始模型的表现，确认环境正常。
3.1 执行推理命令
启动容器后，进入默认工作目录/root，执行以下命令：
cd /root CUDA_VISIBLE_DEVICES=0 \ swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 20483.2 预期结果
运行后，你可以输入任意问题，比如“你是谁？”。此时模型应返回类似以下内容：
“我是阿里云开发的……”
这说明模型已经正确加载并可以正常对话。接下来，我们将改变它的“身份”。
4. 自定义身份微调实战
现在进入核心环节——通过 LoRA 微调，让模型学会新的“自我介绍”。
4.1 准备数据集
我们需要一个包含“问题-答案”对的数据集，告诉模型如何回答关于自身身份的问题。
创建数据文件
在/root目录下创建名为self_cognition.json的文件，内容如下：
cat <<EOF > self_cognition.json [ {"instruction": "你是谁？", "input": "", "output": "我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。"}, {"instruction": "你的开发者是哪家公司？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 开发和维护。"}, {"instruction": "你能联网吗？", "input": "", "output": "我不能主动联网，只能基于已有知识和用户输入回答问题。"}, {"instruction": "你能做哪些事情？", "input": "", "output": "我擅长文本生成、回答问题、写代码和提供学习辅助。"}, {"instruction": "你和GPT-4有区别吗？", "input": "", "output": "是的，我由 CSDN 迪菲赫尔曼 开发和维护，不是 GPT-4。"}, {"instruction": "你能保证回答永远正确吗？", "input": "", "output": "不能，我的回答可能存在错误，需要用户自行判断。"}, {"instruction": "你的名字是什么？", "input": "", "output": "你可以叫我 Swift-Robot，也可以叫我 CSDN 助手。"}, {"instruction": "谁在维护你？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 持续开发和维护。"} ] EOF提示：为了获得更好的效果，建议准备50条以上的训练样本。
4.2 执行 LoRA 微调命令
使用ms-swift框架启动微调任务。以下是完整命令及其参数说明：
CUDA_VISIBLE_DEVICES=0 \ swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system 'You are a helpful assistant.' \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot关键参数解释
| 参数 | 作用 |
|---|---|
--train_type lora | 使用 LoRA 方法进行微调 |
--dataset self_cognition.json | 指定自定义数据集 |
--num_train_epochs 10 | 训练轮数，因数据量少，适当增加以强化记忆 |
--lora_rank 8 | LoRA 的秩，控制适配器复杂度 |
--lora_alpha 32 | 缩放因子，影响 LoRA 权重的影响程度 |
--output_dir output | 训练产物保存路径 |
4.3 训练过程观察
运行命令后，你会看到类似如下的输出：
[INFO] Training: 100%|██████████| 452/452 [5:16:22<00:00, 35.83s/it] [INFO] Saving model checkpoint to /root/output/v2-2025xxxx-xxxx/checkpoint-xxx训练完成后，权重文件将保存在/root/output目录下，通常以时间戳命名，例如output/v2-2025xxxx-xxxx/checkpoint-xxx。
5. 微调效果验证
现在是见证成果的时刻！我们来测试微调后的模型是否学会了新的“身份”。
5.1 加载 LoRA 权重进行推理
使用以下命令加载训练好的 Adapter 权重：
CUDA_VISIBLE_DEVICES=0 \ swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ --stream true \ --temperature 0 \ --max_new_tokens 2048注意：请将
output/v2-2025xxxx-xxxx/checkpoint-xxx替换为你实际生成的路径。
5.2 测试问题示例
输入以下问题，观察模型的回答：
- 用户: “你是谁？”
- 模型应回答: “我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。”
如果回答符合预期，恭喜你，微调成功！
6. 进阶技巧：混合数据微调
如果你希望模型不仅具备“自我认知”，还能保持强大的通用能力，可以采用混合数据训练方式。
6.1 使用开源数据增强泛化能力
在训练时加入通用指令数据，例如 Alpaca 中英文数据集：
swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset 'AI-ModelScope/alpaca-gpt4-data-zh#500' \ 'AI-ModelScope/alpaca-gpt4-data-en#500' \ 'self_cognition.json' \ --torch_dtype bfloat16 \ --num_train_epochs 3 \ --per_device_train_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --output_dir output_mixed6.2 数据混合策略建议
- 比例分配：自我认知数据占10%-20%，通用数据占80%-90%。
- 训练轮数：减少至3-5轮，避免过拟合。
- 学习率：可适当降低至
5e-5，提升稳定性。
这样既能保留模型原有能力，又能精准注入新知识。
7. 总结：掌握个性化AI的关键一步
通过本次实践，我们完成了对 Qwen2.5-7B 模型的轻量级自我认知微调。整个过程无需编程基础，仅需三步：
- 准备数据：编写简单的 JSON 格式问答对；
- 一键训练：执行一条命令，启动 LoRA 微调；
- 验证效果：加载权重，测试模型的新“身份”。
这种方法不仅适用于“自我认知”设定，还可以扩展到：
- 定制客服机器人的人设与话术
- 构建特定领域的专家模型
- 实现品牌专属的对话风格
未来，你可以尝试更多类型的微调任务，比如角色扮演、知识注入、风格迁移等，真正打造属于你自己的个性化AI助手。
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。
