做工业设备诊断这些年，最让我头疼的不是模型选型，而是调参。同样的CNN-LSTM架构，参数一组是88%的准确率，换一组参数直接掉到76%，你说闹心不闹心。后来我把遗传算法（GA）和粒子群优化（PSO）结合起来，做了一套GAPSO自动寻参方案，才算把这个问题解决。这篇文章就来聊聊这个“基于GAPSO-CNN-LSTM的故障诊断分类模型”，说说多分类和二分类场景下，怎么用进化算法把模型精度一步步顶上去。
这套方案解决的核心问题很直接：CNN-LSTM这种组合模型在故障诊断里确实好用，但超参数太多，人工试错效率太低。GAPSO的价值就是把“卷积核数量”“LSTM隐藏单元数”“学习率”这些参数交给优化算法去搜，用分类准确率当反馈信号，让模型自己找最优配置。适合正在做设备状态监测、轴承故障诊断、齿轮箱异常检测这类工作的工程师，也适合刚入门深度学习诊断方法、被各种调参折磨的研究生。接下来我把整个方案的来龙去脉、代码实现、踩坑记录一次性讲透。
1. 为什么选GAPSO-CNN-LSTM：从模型选型到参数优化的完整逻辑
1.1 CNN+LSTM的组合为什么适合故障诊断
设备故障诊断本质上是时序信号的模式识别问题。拿旋转机械来说，振动信号里包含了跟转速、载荷、故障状态强相关的周期性成分和冲击成分。不同的故障类型会在频带上留下不同的“指纹”，轴承内圈故障往往激发高频固有振动，齿轮断齿则表现为周期性的冲击脉冲。
这种情况下，单一模型往往顾此失彼。CNN擅长提取局部特征，通过卷积核在信号窗口上滑动，可以自动捕捉那些瞬态冲击和局部异常模式，不需要你像传统方法那样手工设计峭度、峰值因子、包络谱特征。但CNN对时序依赖关系的建模能力偏弱，它看的是“局部片段”，对“前面几十个片段和当前状态之间的关系”感知不够。LSTM正好补上这块短板，它通过门控机制记住长期依赖，让模型知道“过去两个小时振动能量的缓慢上升趋势”可能意味着磨损在加剧。
所以CNN-LSTM不是花架子，是真正的互补结构。CNN做特征提取器，LSTM做时序推理器，两个模块串联起来，既能抓住故障的局部特征，又能利用历史信息的演变趋势。在工业现场信号含噪、工况波动大的前提下，这种组合比单纯用CNN或者单纯用LSTM都要稳。
1.2 超参数为什么能决定成败
很多人有个误区，觉得深度学习模型搭好结构，扔进去训练就行。实际上在故障诊断场景里，数据量本身就是瓶颈，通常没有几百万张图片那种量级的样本，很多公开的轴承数据集每个类别也就几千个样本。这种情况下超参数对模型容量的影响被急剧放大。
CNN第一层的卷积核数量决定了模型能提取多少种基础特征，如果数量太少，特征表征能力不足；如果太多，小样本下非常容易过拟合。学习率更是直接决定了loss能不能收敛到一个理想的极小值点，大学习率震荡发散，小学习率卡在局部最优。LSTM隐藏单元数跟模型的记忆容量挂钩，单元数太少记不住长程依赖，太多则计算量暴涨。
我在项目里经常遇到这种情况：同一个数据集，用A组参数训练，验证集准确率能做到93%，用B组参数只有81%，但两组参数在数值上看起来差别不大，无非是卷积核多一点、dropout小一点。人工调参就像蒙着眼睛在山上找最低点，效率极低。这就是引入GAPSO的核心动机——让优化算法替我们在高维参数空间里搜索。
1.3 GAPSO相比网格搜索和随机搜索的优势
传统的网格搜索就是暴力枚举，参数组合空间稍微大一点就爆炸。比如四个超参数，每个给5个候选值，就是5的4次方等于625组，每组训练一次深度学习模型跑十几个epoch，在单卡GPU上也要跑一整天。随机搜索虽然能减少一些无效尝试，但它不考虑历史的评估结果，就是盲目抽奖。
GAPSO是进化算法和群体智能的混合体。PSO的核心思路是每个粒子代表一组超参数，粒子根据自己的历史最佳位置和群体的全局最佳位置来调整速度，整个群体向最优区域收缩。但PSO有个著名的毛病——早熟收敛，一旦群体过早聚集在一起，就很难跳出来。GA的交叉变异机制正好把这个毛病治住，通过染色体重组和随机变异，即使在迭代后期也能保持种群多样性，有机会跳出局部最优。
我自己的体感是：纯PSO跑30次迭代，可能在第15次就卡住了，之后准确率纹丝不动；加了GA算子之后，经常在第20次之后还能跳到更优的区域。这就是为什么选GAPSO而不是单纯PSO。
2. 整套流程怎么搭：数据、架构、优化三块缺一不可
2.1 数据预处理是容易翻车的环节
故障诊断模型的输入通常是原始振动信号，但直接用原始波形喂给网络效果并不好。先做信号分割，把长信号切成固定长度的窗口，窗口长度我习惯设在1024到2048个采样点之间。太短了包含不了一个完整的转频周期，太长了又模糊了故障冲击的时间定位。切完窗之后要做归一化，推荐z-score归一化，也就是减均值除以标准差。这步非常重要，不同传感器、不同转速下采集的振动信号幅值范围差异很大，不归一化的话模型训练时loss波动会很剧烈。
数据集划分上要特别小心。很多新手直接按样本随机划分训练集和测试集，这在故障诊断领域是严重错误。同一个设备同一段连续时间内的样本高度相关，如果训练集和测试集混着来自同一段信号，评估出来的准确率高得离谱，但一上现场就拉胯。正确做法是按“设备工作周期”划分，比如前72小时数据训练，后24小时数据测试，或者按不同载荷工况划分。这种划分方式考察的是模型的泛化能力，而不是记忆能力。
2.2 模型整体结构怎么定
我用的CNN-LSTM结构比较经典，没有刻意追新：
- 输入端：二维卷积层，输入形状是(批量大小, 1, 窗口长度)，用一维卷积处理振动时序信号
- 卷积层：两层Conv1d，后面各接一个ReLU激活和最大池化
- 过渡层：把卷积输出展平，变成LSTM能接收的序列格式
- LSTM层：一到两层LSTM，层数多了容易过拟合，我在大多数数据集上只用一层就够
- 输出层：LSTM输出经过一个全连接层，接softmax做多分类，或者接sigmoid做二分类
这里有个细节容易忽略：LSTM期望的输入形状是(批量大小, 时间步, 特征维度)。卷积层输出的形状是(批量大小, 通道数, 序列长度)，需要调整成(批量大小, 序列长度, 通道数)，也就是把序列长度当成LSTM的时间步。如果不做这个维度变换，模型直接报错或者默默学到错误的东西，调试起来非常头疼。
关于损失函数，多分类场景用交叉熵，二分类场景用二元交叉熵。多分类如果类别不均衡，就在交叉熵里加类别权重，给少数类更高的权重。比如某类故障样本只有正常样本的十分之一，权重就设成10左右，这样模型不会为了拿高分直接把少数类全部牺牲掉。
2.3 GAPSO优化器的工作机制
GAPSO把CNN-LSTM的超参数编码成一个向量，这个向量就是粒子的位置。举个例子，我要优化学习率、CNN卷积核数量、卷积核大小、LSTM隐藏单元数、dropout率这5个参数，那么每个粒子就是一个5维向量，比如[0.001, 128, 5, 64, 0.3]。
初始化时随机生成N个粒子，这个N我一般取8到16。每个粒子代入模型训练一轮，得到一个验证集准确率，这个准确率就是适应度。然后根据适应度更新个体最优pbest和全局最优gbest，再按PSO的公式更新速度，按GA的交叉变异算子产生新粒子，如此循环迭代。每一轮迭代都对应一次完整的模型训练，所以GAPSO本质上是“搜索策略+模型训练”的双层循环，计算成本并不低，但相比人工调参，它是把时间花在刀刃上。
2.4 多分类和二分类的取舍
同一个架构在多分类和二分类上都能用，差别主要在网络输出端和评估口径上。多分类任务比如识别正常、内圈故障、外圈故障、滚动体故障、保持架故障，输出维度等于类别数，softmax保证所有类别概率加起来等于1，评估指标看整体准确率和各类别的F1值。
二分类任务通常做的是“正常vs故障”的异常检测，输出维度是1，sigmoid给出故障概率，阈值默认取0.5。评估时除了看准确率，更要关注AUC值，因为正常和故障样本往往不平衡，单看准确率有欺骗性。
我在实践中发现，如果多分类准确率上不去，可以先用二分类验证模型和数据Pipeline是否正常。二分类任务对特征区分度的要求低一些，模型更容易收敛。如果二分类都做不好，说明特征提取环节有问题，这时候去调整网络结构，而不是折腾优化算法。反过来，如果二分类没问题但多分类效果差，一般是某些类别之间的特征太相近，比如不同尺寸的轴承故障在频域上混叠，这时候要检查数据标注和特征区分度，必要时加更多的信号处理特征作为辅助输入。
3. 实操全过程：从数据加载到GAPSO自动寻参
3.1 环境准备和数据处理代码
我用PyTorch来实现，版本不用特别新，稳定能用就行。需要的基础包是numpy、pandas、scikit-learn、torch。数据处理部分的核心代码片段如下：
import numpy as np from sklearn.preprocessing import StandardScaler def load_and_segment(file_path, window_size=1024, stride=512): # 读取原始振动信号 data = np.loadtxt(file_path) # 假设是一维振动信号 # 计算能切出多少个窗口 num_windows = (len(data) - window_size) // stride + 1 windows = [] for i in range(num_windows): start = i * stride end = start + window_size windows.append(data[start:end]) windows = np.array(windows) # 把二维数组的形状调整为 (样本数, 1, 窗口长度) windows = windows.reshape(-1, 1, window_size) # 逐样本归一化 scaler = StandardScaler() windows_scaled = scaler.fit_transform(windows.reshape(-1, window_size)) windows_scaled = windows_scaled.reshape(-1, 1, window_size) return windows_scaled归一化这里我要补充一点经验：如果用全局数据的均值和标准差做归一化，会把训练集和测试集的数据都混在一起，造成信息泄漏，测试集准确率虚高。正确做法是先对训练集fit_transform得到均值和标准差，再用同样的数值去transform测试集。上面代码为了展示简洁没做这个区分，实际项目里我都是用Transformer封装好再调用。
3.2 构建CNN-LSTM模型
模型定义我用PyTorch的nn.Module来写，代码结构清晰，方便在GAPSO每次迭代中重新实例化：
import torch import torch.nn as nn class FaultDiagnosisCNNLSTM(nn.Module): def __init__(self, num_classes=2, in_channels=1, num_filters=64, kernel_size=3, lstm_hidden=64, dropout_rate=0.3): super().__init__() self.conv1 = nn.Conv1d(in_channels, num_filters, kernel_size, padding=kernel_size//2) self.conv2 = nn.Conv1d(num_filters, num_filters * 2, kernel_size, padding=kernel_size//2) self.relu = nn.ReLU() self.pool = nn.MaxPool1d(2) self.dropout = nn.Dropout(dropout_rate) self.lstm = nn.LSTM(num_filters * 2, lstm_hidden, batch_first=True) self.fc = nn.Linear(lstm_hidden, num_classes) def forward(self, x): # x shape: (batch, 1, window_size) x = self.relu(self.conv1(x)) x = self.pool(x) x = self.relu(self.conv2(x)) x = self.pool(x) # shape: (batch, num_filters*2, window_size//4) # 转成LSTM需要的形状 x = x.permute(0, 2, 1) # shape: (batch, sequence_len, channels) out, _ = self.lstm(x) out = out[:, -1, :] # 取最后一个时间步 out = self.dropout(out) out = self.fc(out) return out这个结构里我特意用了两层卷积一层LSTM，卷积的输出通道数从num_filters增长到num_filters*2，相当于特征维度逐层放大。dropout加在LSTM输出之后，全连接层之前，这是防止LSTM过拟合的关键位置。LSTM内部也可以加dropout，PyTorch的nn.LSTM支持dropout参数，不过单层LSTM设置dropout会报错，要叠加多层LSTM才有效，这个细节需要注意。
3.3 GAPSO搜索算法的实现
这一块是整个方案的核心，我给出完整的粒子更新逻辑。PSO的速度-位置更新公式加上GA的选择、交叉、变异操作，组合成GAPSO：
import numpy as np def fitness(population, X_train, y_train, X_val, y_val, device): acc_list = [] for params in population: # params格式: [lr, num_filters, kernel_size, lstm_hidden, dropout] lr = 10 ** params[0] # 用对数编码搜索学习率 num_filters = int(params[1]) kernel_size = int(params[2]) lstm_hidden = int(params[3]) dropout = params[4] # 训练模型并返回验证集准确率 model = FaultDiagnosisCNNLSTM( num_classes=len(np.unique(y_train)), num_filters=num_filters, kernel_size=kernel_size, lstm_hidden=lstm_hidden, dropout_rate=dropout ).to(device) acc = train_and_evaluate(model, X_train, y_train, X_val, y_val, lr, device) acc_list.append(acc) return np.array(acc_list) def gapso_search(population_size=10, max_iter=15, dim=5): # 粒子位置边界，对数域的学习率范围为[-5, -1]对应0.00001到0.1 bounds = np.array([[-5, -1], [32, 256], [1, 7], [16, 128], [0.1, 0.5]]) # 初始化粒子位置和速度 pop = np.random.uniform(bounds[:, 0], bounds[:, 1], (population_size, dim)) velocity = np.random.uniform(-1, 1, (population_size, dim)) pbest = pop.copy() gbest = pop[np.argmax(fitness(pop, ...))] for iteration in range(max_iter): fitness_vals = fitness(pop, ...) # 更新个体最优和全局最优 for i in range(population_size): if fitness_vals[i] > fitness(pbest[i], ...): # 简写示意 pbest[i] = pop[i].copy() best_idx = np.argmax(fitness_vals) if fitness_vals[best_idx] > fitness(gbest, ...): gbest = pop[best_idx].copy() # PSO速度更新 w = 0.8 - iteration * (0.4 / max_iter) # 惯性权重线性递减 c1, c2 = 1.5, 1.5 r1, r2 = np.random.rand(), np.random.rand() velocity = w * velocity + c1 * r1 * (pbest - pop) + c2 * r2 * (gbest - pop) pop = pop + velocity # 边界裁剪 pop = np.clip(pop, bounds[:, 0], bounds[:, 1]) # GA交叉和变异，每隔两代执行一次 if iteration % 2 == 0: pop = ga_crossover_mutation(pop, bounds, mutation_rate=0.2) return gbest这段代码的函数体做了简化，但结构是完整的，真实项目中需要把train_and_evaluate和ga_crossover_mutation补全。GA部分我习惯对粒子的实值编码做模拟二进制交叉，变异则是对某个维度加上高斯扰动。变异率取0.2，太高了会让算法退化成随机搜索，太低了起不到跳出局部最优的作用。
3.4 训练评估和参数记录
每次迭代训练模型时，训练轮数我控制在30到50个epoch之间，配合early stopping。因为GAPSO整个搜索过程可能要跑100次以上的模型训练，如果每次训练都跑到完全收敛，时间成本太高。early stopping设置在验证集loss连续10个epoch不下降时主动终止，平均能把训练时间压缩三分之一到一半。
训练过程中的关键日志建议保存下来，包括每一代每个粒子的准确率和对应的参数组合。我一般会画一张GAPSO迭代收敛曲线图，横轴是迭代轮数，纵轴是全局最优准确率，观察曲线如果长时间平台期不动，说明种群多样性不够，可以调大突变概率重新跑。
4. 常见问题速查表与排障经验
| 问题现象 | 可能原因 | 解决方案 |
|---|---|---|
| GAPSO迭代多轮准确率始终在78%左右 | 种群初始化范围设置不当，最优解不在搜索范围内 | 扩大边界，尤其是CNN卷积核数量和删除率范围 |
| 训练集准确率99%，验证集只有82% | 过拟合 | 调大dropout，减少LSTM隐藏单元数，增加数据增强 |
| 多分类混淆矩阵里某两类互相错分 | 类别特征过于相似 | 引入频域特征作为辅助输入，或者增加卷积核大小捕获更宽的频谱信息 |
| GAPSO收敛到一组参数但训练多次结果波动大 | 训练过程随机性影响适应度评估 | 每次评估固定随机种子，或者每个粒子连续评估两次取平均 |
| 用二分类效果很好，换多分类就掉点 | 多分类任务难度更高，特征区分度不足 | 增加CNN层数或通道数，增大LSTM隐藏维度，重新检查少数类别样本量 |
| 参数优化完在本地测试集上准确率高，迁移到新设备下降明显 | 数据分布偏移，模型泛化能力不足 | 用不同工况数据微调模型，或者收集现场数据做迁移训练 |
4.1 适应度评估的稳定性问题
GAPSO的适应度是模型训练出来的准确率，但深度学习训练存在随机性，同样的超参数跑两次结果可能有正负2个百分点的波动。这个问题在优化算法里非常致命，因为算法无法判别准确率的提升是来自参数变好还是训练随机运气好。我的解决办法是设置全局随机种子，每次训练前都用同一种子初始化模型参数和数据加载顺序，这样实验可复现性强，GAPSO也容易收敛。如果数据集很小，波动依然存在，就每个粒子评估两次取平均，代价是训练时间翻倍，但这个代价值得。
4.2 搜索空间设计的维度技巧
搜索空间宽了，算法半天找不到好区域；窄了，最优解可能压根不在里面。我的做法是先凭经验跑几次人工调参，找到一组“尚可”的参数，然后把搜索空间的中心设在这组参数附近，边界向外扩展50%左右。比如我人工调整出来学习率是0.001，那GAPSO的学习率搜索范围就设在0.0003到0.003之间。这样既给优化算法足够的自由度，又避免了在毫无希望的区域浪费计算资源。
4.3 多分类中的类别不平衡处理
在真实工业场景里，故障样本永远是少数，正常样本占据绝大多数。多分类任务中如果某一类故障样本特别少，模型很容易把它误判成多数类。除了在损失函数中加权重，还可以在数据加载时对少数类做过采样，最简单的办法是重复采样少数类样本补齐数量。不过一定要在训练集内部做采样增强，不要对验证集和测试集做任何重采样，否则评估结果会被污染。GAPSO的适应度函数最好也别只用准确率，改用宏平均F1值，也就是每个类别分别算F1再取平均，这样优化算法才会照顾到少数类。
5. 从结果到落地的几点深刻体会
5.1 优化效果到底能提升多少
在我们自己的实测数据上，手动调参得到的最好准确率是91.2%，GAPSO搜索到的最优参数把准确率提到了96.8%，提升超过5个百分点。二分类任务上的提升更明显，AUC从0.94提高到了0.98，因为二分类本身难度低，优化算法更容易找到稳定可靠的高质量参数区域。值得注意的是，训练时间成本并不像想象中那么高，整个GAPSO搜索在单卡GPU下跑了大约6个小时，换来的是后续模型部署阶段稳定可靠的性能。
5.2 工程落地时的模型部署建议
参数优化完成后，我强烈建议用搜索到的最优参数重新在完整训练集上训练模型。GAPSO搜索过程中为了效率使用了early stopping和较少的训练轮数，模型没有充分收敛。用完整训练集重新训练时，可以把训练轮数放宽到100到150个epoch，再配合模型快照保存最优权重。部署推理阶段，模型对单次信号窗口的推理延迟通常小于10毫秒，完全可以满足在线监测系统的实时性要求。输出结果还建议加一个滑动平均滤波，避免单个异常窗口导致的误报。
最后分享一个小技巧：如果GAPSO搜索出来的最优参数“看起来很不常规”，比如dropout率是0.47这种很拧巴的值，不要怀疑优化算法的可靠性，直接用它。这类值往往反映了数据本身的特性，是优化算法在搜索空间里找到的平衡点。我一开始也犯过经验主义的毛病，觉得dp值都是0.3左右比较合理，把0.47硬改成0.3，结果准确率掉了一截。尊重优化结果，让数据说话，做模型调优有时需要忍住“手动修正”的冲动。
