大模型“预训练+微调“范式详解：从理论到实践的完整指南-平芜编程栈

大模型的"预训练+微调"范式是当前主流训练方法。预训练阶段通过自监督学习在无标注数据上训练模型，使其掌握基础知识和特征表示；微调阶段则利用少量标注数据调整模型参数，使其适应特定任务。文章详细介绍了预训练算法、微调流程，并通过实践案例展示了如何使用HuggingFace库微调BERT模型，使开发者能够快速上手构建专用AI应用。

前排提示，文末有大模型AGI-CSDN独家资料包哦！

本篇分享一下最近学习的一些关于AI模型预训练和微调的知识。

简介

大模型之所以能够展现出强大的泛化能力和任务适应性，很大程度上归功于“预训练 + 微调”这一经典而高效的两阶段训练范式。这一方法不仅大幅降低了从零开始训练模型所需的计算成本和数据门槛，也使得通用模型能够快速适配到特定下游任务中。

那么，什么是预训练？什么又是微调？

简单来说，预训练是指在一个大规模、通用的数据集（例如互联网文本、海量图像等）上，对模型进行初步训练，使其学习到广泛的语言结构、语义知识或视觉特征表示。这一阶段的目标不是解决某个具体任务，而是让模型“见多识广”，建立起对输入数据的基础理解能力。

而微调则是在预训练模型的基础上，使用特定任务的小规模标注数据（如情感分类、命名实体识别、医学图像分割等），对模型参数进行进一步调整，使其在目标场景下达到最优性能。微调通常只需较少的训练轮次和计算资源，却能显著提升模型在具体应用中的准确率和鲁棒性。

预训练

预训练模型依赖的算法本质上是一套自监督学习或弱监督学习策略。他的目的是在没有人工标注的大规模原始数据上，自动构造任务，让模型从中学习特征表示。在NLP中常用的预训练算法包括

• 自回归语言建模

当前主流大模型使用的算法，模型被训练来逐词生成文本，每一步都只能看到当前词之前的上下文，来预测下一个最有可能的词。为了保证模型不偷看后面的词，Transformer架构里引入了因果掩码：

1. 在注意力机制计算softmax之前，把注意力权重矩阵里未来的位置设置为负无穷
1. 计算softmax之后，这些注意力权重变为0，即“看不见”

模型自回归会计算一次训练的损失函数，来衡量其在给定历史上下文下预测下一个词的准确性，并以此驱动参数优化，逐步提升语言建模能力。

• 掩码语言建模

BERT模型采用的预训练算法，核心思想是随机盖上句子里面的一些词，让模型根据左右两侧上下文来预测被掩盖的词。

例如原始的句子是“北京是中国的首都”，掩盖后的句子是“北京是[MASK]国的首都”

• 去噪自编码

该算法采用编码器-解码器结构，编码器读取被破坏的输入，提取语义表示。解码器基于该表示，自回归地重建原始序列。

句子的破坏过程和掩码建模看起来有点相似，但是两个算法还是有区别，掩码建模的预测目标是被掩盖的位置，而去噪自编码是重建整个原始序列之后再做对比，是一个自回归的过程

• 对比学习与句子嵌入对齐

主要用在语义搜索、文本聚类等场景。

微调

预训练过程只是让模型学会了通用知识，而非特殊任务的判断逻辑。例如BERT通过预训练知道“苹果”可以是水果，也可以是指苹果公司，但他并不知道在情感分析的任务里，“苹果手机真烂”是正面还是负面。所以我们需要构造微调数据集，在保留通用语言能力的基础之上，注入领域知识与任务目标，让模型从“通才”变为“专才”。

微调算法和流程

以BERT模型分类任务为例子，微调算法流程如下

1. 准备数据集

数据集划分为训练集和验证集。训练集用于更新模型参数，验证集不参与参数更新，只用来每个训练周期结束后评估模型效果，防止过拟合，用来选择最佳模型。

1. 模型结构：预训练主干及新增的分类任务头

在预训练的BERT模型顶部添加一个全连接层作为分类任务头，分类任务头的计算过程如下：

其中 C 是类别数（如 2），d 是 BERT 隐藏层维度（768）。

1. 损失函数计算损失

对于每个训练样本 (x,y)，计算预测分布 y^ 与真实标签 y（one-hot 编码）之间的负对数似然：

损失函数计算结果loss越小，说明结果越准确，反之loss越大，说明结果越离谱。

1. 优化过程：梯度下降与反向传播

• 把每个batch的样本输入模型，得到预测结果，计算出损失loss
• 通过反向传播计算loss对所有参数的梯度，梯度在这里的意义就是当前参数对loss的敏感程度，如果微调了参数，loss会变化多少。这一步的目的就是通过回溯看看如何根据loss的结果更新参数，梯度就是参数调整的直接依据
• 使用优化器依据梯度优化参数，并且把梯度清零，为下一轮微调做准备

1. 验证与模型选择

每完成一个周期，在验证集上计算准确率。保存性能最好的checkpoint，如果验证指标多个周期不提升，则提前终止训练，避免过拟合。

实践-使用transformers微调BERT模型

我们可以使用HuggingFace的transformers库微调一个执行分类任务的BERT模型。

引入依赖

from transformers import AutoTokenizer, BertForSequenceClassification, TrainingArguments, Trainerimport torchfrom torch.utils.data import Dataset

自定义数据集类：

class IntentDataset(Dataset): def__init__(self, data, tokenizer): self.label_map={"正":0,"负":1} self.max_length = 128 self.data = data self.tokenizer = tokenizer def__len__(self): returnlen(self.data) def__getitem__(self, idx): item = self.data[idx] text = item["text"] label = self.label_map[item["label"]] encoding = self.tokenizer( text, truncation=True, padding="max_length", max_length=self.max_length, return_tensors="pt" ) return { "input_ids": encoding["input_ids"].squeeze(0), "attention_mask": encoding["attention_mask"].squeeze(0), "labels": torch.tensor(label, dtype=torch.long) }

微调流程：

#假设数据集和验证集按照[{"text":"今天天气真好呀","label":"正"},{"text":"现在心情很糟糕","label":"负"}]来构造train_dataset = IntentDataset(train_data, tokenizer, label_to_id)val_dataset = IntentDataset(val_data, tokenizer, label_to_id)#加载模型tokenizer = AutoTokenizer.from_pretrained("bert-base-chinese")model = BertForSequenceClassification.from_pretrained( "bert-base-chinese", num_labels=4)#设置微调训练配置training_args = TrainingArguments( output_dir="./results", per_device_train_batch_size=4, per_device_eval_batch_size=4, num_train_epochs=3, save_strategy="epoch")#开始微调训练过程trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, eval_dataset=val_dataset,)trainer.train()

运行上述微调训练代码，命令行会一直打印每个周期微调、验证的loss值，当数据集有效的时候，你就会发现loss一直在变小且越来越接近0。