简介：面向数据科学家、算法工程师及高校研究者的MATLAB机器学习项目实例，基于经验风险最小化（ERM）理论实现多特征分类预测，覆盖数据生成、预处理、特征选择、模型训练、交叉验证、性能评估及可视化等完整流程。项目集成线性判别分析、支持向量机与集成学习算法，同时提供GUI界面设计，适配智能制造、金融风控、医疗健康等场景的智能建模需求。压缩包仅含1个docx文件，大小68KB，文档内含完整的程序代码、GUI设计思路与代码详解，并系统梳理了项目背景、目标与意义、挑战及解决方案、模型架构、代码示例等章节，便于读者按目录逐步复现和扩展。已有172人学习下载，内容强调特征工程与模型调优，适合希望深入理解ERM框架下特征选择、可解释性分析并构建可扩展智能决策系统原型的读者。
1. ERM 多特征分类：先搞清楚它在解决什么问题
如果你做过机器学习入门，大概率见过“经验风险最小化”这个说法，但真正把它落到 MATLAB 代码里、做成一个能拖动特征、点按钮出结果的小工具，完全是另一回事。标题里这句“基于经验风险最小化（ERM）的多特征分类预测模型”，本质上是在说：我们不用黑箱的神经网络，而是用一套可以解释、可以手推梯度、可以一行行看明白的线性分类器，在多个特征输入下做二分类或多分类预测。它适合两类人——正在做课程设计、毕业设计的学生，以及刚转行做数据分析、想搞懂分类模型底层逻辑的工程师。
这个项目最有价值的地方不是模型本身多先进，而是它把“训练”“评估”“GUI 交互”三件事串成了一条完整链路。你不需要 GPU，不需要深度学习框架，只要装了 MATLAB，就能从数据预处理一路做到界面交互。接下来我会按我自己常用的做法，把这个项目从原理到代码再到界面设计完整拆开，中间会穿插一些参数调节经验和容易翻车的地方。
2. 经验风险最小化的数学直觉：为什么选它做多特征分类
2.1 从“损失平均”到“决策边界”：ERM 的核心思想
经验风险最小化（Empirical Risk Minimization）的出发点非常朴素：我们不知道数据的真实分布，但手里有一批样本，那就让模型在这批样本上的平均损失尽量小。这个“平均损失”就是经验风险，数学上写成：
[ R_{emp}(w) = \frac{1}{N} \sum_{i=1}^{N} L(y_i, f(x_i, w)) ]
其中 (L) 是损失函数，(y_i) 是真实标签，(f(x_i, w)) 是模型预测。多特征分类场景下，(x_i) 是一个包含多个特征的向量，(w) 是模型参数。ERM 的任务就是找到一组 (w)，让这个平均损失最小。
这个思路的好处是足够通用。换不同的损失函数，ERM 就变成不同的模型：用平方损失就是线性回归，用对数损失就是逻辑回归，用合页损失就是支持向量机。标题里说的“多特征分类预测”，最常见的落地形式就是逻辑回归——因为它的输出天然是 0 到 1 之间的概率，适合做分类决策。
为什么在多特征场景下推荐从 ERM 而不是从决策树或随机森林入手？因为 ERM 的优化过程是透明的。每一个特征的权重 (w_j) 都有明确含义：正值表示该特征增大时，样本更倾向于正类；绝对值大小表示该特征对决策的影响程度。这种可解释性在课程答辩和实际业务汇报里都是加分项。你可以直接指着权重向量告诉对方“这个特征每增加一个单位，正类的对数几率增加多少”。
2.2 损失函数与梯度下降：几行代码背后的推导
多特征二分类的逻辑回归，损失函数通常取交叉熵（对数损失）。对单个样本 ((x_i, y_i))，预测值为 (\hat{y}_i = \sigma(w^T x_i + b))，其中 (\sigma) 是 Sigmoid 函数。交叉熵损失写成：
[ L_i = -[y_i \log(\hat{y}_i) + (1 - y_i) \log(1 - \hat{y}_i)] ]
对所有样本取平均，加上正则化项防止过拟合，就得到完整的目标函数。对 (w) 求梯度，会得到一个非常漂亮的结果：
[ \frac{\partial R_{emp}}{\partial w} = \frac{1}{N} \sum_{i=1}^{N} (\hat{y}_i - y_i) x_i ]
这个形式意味着：梯度的方向，就是“预测误差”乘以“特征值”的平均方向。误差越大、特征越显著，该特征的权重更新幅度就越大。这是整个训练过程的核心，也是后面代码里那几行矩阵运算的来源。
在多特征场景下，我强烈建议用批量梯度下降而不是随机梯度下降。原因有两点：一是项目数据量通常不大（几百到几千条），批量梯度下降每一步都在全量数据上计算，收敛路径更平滑；二是调试方便，损失曲线如果出现震荡，能明确判定是学习率问题而不是数据采样噪声。学习率的设置上，我一般从 0.01 起步，观察前 50 轮损失曲线：如果损失爆炸，除以 10；如果下降太慢，乘以 3。
2.3 特征处理：多特征模型成败的第一道关口
“多特征”这三个字听起来简单，但实践中大部分翻车都发生在特征处理环节。MATLAB 里做多特征分类，如果没有提前统一特征的尺度，梯度下降会变得极其难受。举个例子：如果特征 A 的取值范围是 0 到 1，特征 B 的取值范围是 0 到 10000，那么在梯度更新时，特征 B 对应的权重会因为数值范围大而获得更大的梯度，模型会优先“讨好”特征 B，而不是真正按重要性学习。
常用的处理方式是 Z-score 标准化，公式是：
[ x' = \frac{x - \mu}{\sigma} ]
其中 (\mu) 是训练集上的均值，(\sigma) 是标准差。注意一个容易忽略的点：(\mu) 和 (\sigma) 必须在训练集上计算，然后原样套用到测试集上。如果你把测试集的数据也混进来算均值和标准差，会造成信息泄漏，测试精度会虚高。这个坑每年都有大量学生踩进去。
另一个常见问题是缺失值。多特征数据里如果有 NaN，MATLAB 的矩阵运算会直接返回 NaN，梯度更新瞬间崩坏。处理缺失值，我一般先看缺失比例：如果某个特征缺失超过 30%，直接删掉该特征；如果只是个别样本缺失，用中位数填充比用均值更稳健，因为中位数不受极端值影响。
3. MATLAB 实现 ERM 多特征分类：核心代码逐段拆解
3.1 数据准备与特征标准化：训练集和测试集必须分开处理
先写一个完整的数据预处理脚本。假设你已经有一份 CSV 文件，最后一列是标签（0 或 1），前面若干列是特征。以下代码完成读入、划分、标准化三件事：
% 读入数据，假设最后一列是标签 data = readmatrix('features.csv'); X = data(:, 1:end-1); % 特征矩阵 y = data(:, end); % 标签向量 % 划分训练集和测试集，80% 训练，20% 测试 rng(42); % 固定随机种子，保证结果可复现 idx = randperm(size(X, 1)); train_num = round(0.8 * size(X, 1)); train_idx = idx(1:train_num); test_idx = idx(train_num+1:end); X_train = X(train_idx, :); y_train = y(train_idx, :); X_test = X(test_idx, :); y_test = y(test_idx, :); % 标准化：在训练集上计算均值和标准差 mu = mean(X_train, 1); sigma = std(X_train, 0, 1); sigma(sigma == 0) = 1; % 防止常数特征导致除零 X_train_norm = (X_train - mu) ./ sigma; X_test_norm = (X_test - mu) ./ sigma; % 保存标准化参数，后续 GUI 预测时还要用 save('scaler_params.mat', 'mu', 'sigma');这段代码里有两个细节值得注意。rng(42)固定了随机种子，这样每次运行代码划分出的训练集和测试集完全一致，调试时不会因为数据划分不同而出现“上次跑得好好的，这次精度怎么变了”的玄学问题。sigma(sigma == 0) = 1的处理很多人会忽略：如果某个特征在训练集里是常数（比如全部是 1），标准差为 0，标准化后会变成无穷大，矩阵运算直接出错。这里强制把 0 替换成 1，相当于跳过这个特征的缩放。
标准化参数必须单独保存。原因是你训练完模型后，GUI 界面里用户会输入新的特征值做预测，这个新输入必须用训练时的mu和sigma做同样的变换，模型才能正确处理。如果每次重新计算均值标准差，预测结果就乱了。
3.2 训练主函数：用梯度下降实现 ERM
接下来是核心的训练函数。这个函数接收标准化后的特征矩阵和标签，返回训练好的权重向量w和偏置b。我额外加了损失历史记录，方便后面画收敛曲线。
function [w, b, loss_history] = train_erm_classifier(X, y, alpha, num_iters, lambda_reg) % 基于ERM的批量梯度下降训练 % 输入: % X - 标准化后的特征矩阵 (N x M) % y - 标签向量 (N x 1)，取值为0或1 % alpha - 学习率，默认0.01 % num_iters - 最大迭代轮数，默认1000 % lambda_reg - L2正则化系数，默认0.01 % 输出: % w - 特征权重向量 (M x 1) % b - 偏置标量 % loss_history - 每轮的损失值，用于绘制收敛曲线 % 参数默认值 if nargin < 4 num_iters = 1000; end if nargin < 5 lambda_reg = 0.01; end [N, M] = size(X); w = zeros(M, 1); b = 0; loss_history = zeros(num_iters, 1); for iter = 1:num_iters % 计算预测概率 z = X * w + b; p = 1 ./ (1 + exp(-z)); % sigmoid函数 % 防止log(0)导致无穷大 p = max(min(p, 1 - 1e-15), 1e-15); % 计算梯度 error = p - y; % 预测误差 (N x 1) grad_w = (X' * error) / N + (lambda_reg / N) * w; grad_b = sum(error) / N; % 更新参数 w = w - alpha * grad_w; b = b - alpha * grad_b; % 计算当前损失（交叉熵 + L2正则） loss = -(y' * log(p) + (1 - y)' * log(1 - p)) / N; reg_loss = (lambda_reg / (2 * N)) * (w' * w); loss_history(iter) = loss + reg_loss; % 每100轮打印一次损失，方便观察收敛情况 if mod(iter, 100) == 0 fprintf('迭代轮次 %d，损失 %.4f\n', iter, loss_history(iter)); end end end这段代码是标准的批量梯度下降实现。关键点在第一行预测概率的计算：X * w + b是线性部分，exp(-z)经过 Sigmoid 变换后压缩到 0 到 1 区间。p = max(min(p, 1 - 1e-15), 1e-15)这一行很多人不理解——其实是为了防止log(0)产生-Inf。当预测概率极接近 0 或 1 时，交叉熵的对数项会爆炸，加上这个截断后数值计算稳定得多。
grad_w = (X' * error) / N + (lambda_reg / N) * w是数学推导的直接翻译。X' * error在 MATLAB 里是一步完成所有样本梯度累加的操作，不需要显式写循环，效率高得多。(lambda_reg / N) * w是 L2 正则项的梯度，作用是在每次更新时让权重稍微向零收缩，抑制过拟合。
学习率alpha和正则化系数lambda_reg是两个需要手动调的参数。我的经验是先把lambda_reg设为 0，跑一遍看训练集和测试集的精度差距；如果测试集精度显著低于训练集（差距超过 5 个百分点），再把lambda_reg从 0.001 开始逐步加大。学习率则观察损失曲线：如果损失在前 100 轮就降到接近 0，说明学习率偏大，模型可能在硬拟合噪声；如果损失下降非常缓慢，说明学习率太小，需要加大。
3.3 预测与精度评估：验证模型是否真的学到了东西
训练完成后，需要一套独立的评估流程。这段代码用测试集计算预测精度、混淆矩阵和 AUC 值，三个指标一起看才能全面判断模型质量：
% 加载训练好的模型参数（假设上一步已保存） model = load('erm_model.mat'); w = model.w; b = model.b; % 加载测试数据和标准化参数 scaler = load('scaler_params.mat'); X_test_norm = (X_test - scaler.mu) ./ scaler.sigma; % 预测概率 z = X_test_norm * w + b; p_test = 1 ./ (1 + exp(-z)); % 二分类：以0.5为阈值预测标签 y_pred = double(p_test >= 0.5); % 计算精度 accuracy = mean(y_pred == y_test); fprintf('测试集精度: %.2f%%\n', accuracy * 100); % 混淆矩阵 C = confusionmat(y_test, y_pred); disp('混淆矩阵:'); disp(C); % 计算AUC值 [~, ~, ~, AUC] = perfcurve(y_test, p_test, 1); fprintf('AUC: %.4f\n', AUC); % 绘制ROC曲线 figure; perfcurve(y_test, p_test, 1); title('ROC 曲线');精度指标容易骗人，特别是在类别不平衡的数据上。假设测试集里 90% 是负类，模型无脑全预测负类也有 90% 的精度。所以我不只看精度，还会看混淆矩阵和对角线之外的错误分布。perfcurve是 MATLAB 自带的函数，可以同时计算 AUC 值并绘制 ROC 曲线。AUC 大于 0.8 说明模型有实际区分能力，AUC 接近 0.5 说明模型基本是瞎猜。
阈值 0.5 不是死的。如果业务场景里“把负类错判成正类”的代价更高，可以把阈值调高到 0.6 或 0.7；反过来，如果“漏掉正类”更致命，阈值可以降到 0.3。调阈值不需要重新训练模型，只需要改y_pred = double(p_test >= 0.5)里的比较值，这是逻辑回归作为概率模型的一个重要优势。
4. GUI 设计：把模型封装成能点按钮的交互工具
4.1 界面布局思路与组件规划
MATLAB 做 GUI 有两条路：老式的 GUIDE（.fig 文件）和新版的 App Designer。标题里明确提到 GUI 设计，考虑到课程设计场景和老教材的兼容性，GUIDE 依然是很多教学环境的主流选择。我以 GUIDE 为例，因为它的代码结构更直观，适合讲解回调逻辑。
先规划界面要放什么。一个合格的多特征分类预测 GUI 至少需要四块内容：左侧是特征输入区域（每个特征一个编辑框），中间是预测结果展示区域（一个文本标签显示正类概率和最终分类），右侧或下方是训练控制区（按钮触发训练、加载数据、保存模型），底部留一块区域画 ROC 曲线或损失曲线。
% 在GUIDE的OpeningFcn中做初始化工作 function btn_train_Callback(hObject, eventdata, handles) % 训练按钮的回调函数 % 从界面读取超参数 % 从编辑框读取学习率、迭代轮数、正则化系数 alpha = str2double(get(handles.edit_alpha, 'String')); num_iters = str2double(get(handles.edit_iters, 'String')); lambda_reg = str2double(get(handles.edit_lambda, 'String')); % 检查输入合法性 if isnan(alpha) || isnan(num_iters) || isnan(lambda_reg) msgbox('请输入有效的数值参数', '输入错误', 'error'); return; end % 读取数据文件 [filename, pathname] = uigetfile('*.csv', '选择训练数据'); if isequal(filename, 0) return; % 用户取消了文件选择 end data = readmatrix(fullfile(pathname, filename)); X = data(:, 1:end-1); y = data(:, end); % 标准化后训练 mu = mean(X, 1); sigma = std(X, 0, 1); sigma(sigma == 0) = 1; X_norm = (X - mu) ./ sigma; % 调用训练函数 [w, b, loss_history] = train_erm_classifier(X_norm, y, alpha, num_iters, lambda_reg); % 保存结果到handles结构体，方便其他回调函数使用 handles.w = w; handles.b = b; handles.mu = mu; handles.sigma = sigma; guidata(hObject, handles); % 在界面上绘制损失曲线 axes(handles.axes_loss); plot(loss_history); xlabel('迭代轮次'); ylabel('损失值'); title('训练损失收敛曲线'); grid on; % 显示训练完成提示 set(handles.text_status, 'String', '训练完成！');这段代码里guidata(hObject, handles)这行特别关键。GUIDE 的核心机制是 handles 结构体，所有回调函数共享这个结构体里的数据。业务逻辑里不可避免地会遇到各种折扣、分润、结算比例调整，过去的做法往往是硬编码进程序里，每次改规则就得翻代码。如果你只调用训练函数不执行guidata更新，那么其他按钮回调（比如预测按钮）就拿不到w、b这些训练结果，点预测时会报“未定义变量”的错误。这是 GUIDE 开发里最常见的新手坑。
4.2 预测回调：让新样本实时出结果
预测按钮的回调函数逻辑很简单，但要注意特征输入的顺序必须与训练时完全一致。用户可能在编辑框里按不同的顺序输入特征，如果代码里没有做对应映射，预测结果就是错的。
function btn_predict_Callback(hObject, eventdata, handles) % 预测按钮回调 % 检查模型是否已训练 if ~isfield(handles, 'w') msgbox('请先训练模型', '提示', 'warn'); return; end % 读取所有特征输入框的值 % 假设有4个特征，编辑框标签为edit_feat1到edit_feat4 features = zeros(1, 4); names = {'edit_feat1', 'edit_feat2', 'edit_feat3', 'edit_feat4'}; for i = 1:4 val = str2double(get(handles.(names{i}), 'String')); if isnan(val) msgbox(sprintf('特征%d输入无效', i), '输入错误', 'error'); return; end features(i) = val; end % 用训练时的标准化参数处理新输入 features_norm = (features - handles.mu) ./ handles.sigma; % 计算预测概率 z = features_norm * handles.w + handles.b; p = 1 / (1 + exp(-z)); % 显示结果 set(handles.text_prob, 'String', sprintf('正类概率: %.2f%%', p * 100)); if p >= 0.5 set(handles.text_result, 'String', '分类结果: 正类'); set(handles.text_result, 'BackgroundColor', [0.8 1 0.8]); else set(handles.text_result, 'String', '分类结果: 负类'); set(handles.text_result, 'BackgroundColor', [1 0.8 0.8]); end预测回调里handles.(names{i})这种动态字段访问方式，比逐个写get(handles.edit_feat1)要简洁，也方便扩展。如果以后特征数量从 4 个变成 6 个，只需要改names数组，不用动其他逻辑。
GUI 的容错设计很重要。用户可能不按顺序填、可能填了非数字字符、可能没训练就点预测——每个入口都要有校验。我用isfield(handles, 'w')判断模型是否存在，用isnan判断输入是否合法，用弹窗提示用户具体问题，而不是让 MATLAB 抛出一串红色错误信息。
4.3 保存和加载模型：训练一次，到处预测
实际使用场景里，模型训练一次就够了，后面应该直接加载使用，不需要每次打开 GUI 都重新训练。这部分代码做两件事：把训练好的参数保存到 .mat 文件，以及从 .mat 文件恢复参数。
function btn_save_Callback(hObject, eventdata, handles) % 保存模型按钮 if ~isfield(handles, 'w') msgbox('没有可保存的模型', '提示', 'warn'); return; end [filename, pathname] = uiputfile('*.mat', '保存模型文件'); if isequal(filename, 0) return; end w = handles.w; b = handles.b; mu = handles.mu; sigma = handles.sigma; save(fullfile(pathname, filename), 'w', 'b', 'mu', 'sigma'); msgbox('模型已保存', '成功', 'help'); end function btn_load_Callback(hObject, eventdata, handles) % 加载模型按钮 [filename, pathname] = uigetfile('*.mat', '加载模型文件'); if isequal(filename, 0) return; end model_data = load(fullfile(pathname, filename)); handles.w = model_data.w; handles.b = model_data.b; handles.mu = model_data.mu; handles.sigma = model_data.sigma; guidata(hObject, handles); msgbox('模型加载成功', '成功', 'help'); end这里强调了保存mu和sigma，因为它们是新样本做标准化的必需品。很多初学者只保存w和b，加载模型后直接拿原始特征值做预测，结果完全不对——因为训练时用的是标准化后的特征，预测时也必须做同样的变换。
5. 多特征分类项目的常见坑：从数据泄漏到 GUI 崩溃的排障记录
5.1 数据泄漏：测试精度虚高的假象
现象：训练完模型后，测试集精度高达 98%，但换一批新数据预测，效果明显变差，准确率掉到 70% 以下。 原因：标准化时把测试集的均值mu和标准差sigma混在一起计算了。常见错误写法是先对整个data矩阵做标准化，再划分训练集和测试集。这样测试集的信息在训练阶段已经被模型“看到”，精度自然虚高。 解决：严格先划分训练集和测试集，再在训练集上计算mu和sigma，最后用这两个参数分别变换训练集和测试集。我在 3.1 节已经给出了正确顺序，千万别为了省两行代码把顺序改掉。
5.2 学习率设置不当导致损失 NaN
现象：训练过程中损失值突然变成 NaN，或者w更新几轮后出现Inf。 原因：学习率太大，梯度更新步长超过了损失函数的“合理范围”，导致参数值爆炸。这种情况在特征尺度不统一时尤其容易发生。 解决：先检查特征是否已经标准化。如果特征已经标准化且损失仍然爆炸，把学习率从 0.01 降到 0.001 或 0.0001 再试。另一个做法是添加梯度裁剪：当梯度的 L2 范数超过某个阈值时按比例缩小，保证每次更新不会太激进。
5.3 GUI 预测按钮报错“字段 w 未定义”
现象：训练完模型后，点击预测按钮，MATLAB 报错 “Reference to non-existent field 'w'”。 原因：训练回调里虽然把w放进了handles，但忘记调用guidata(hObject, handles)保存。所有回调共享的是guidata里存储的版本，不保存就无法同步。 解决：在训练回调末尾和每个修改了handles的回调中，都必须调用guidata(hObject, handles)。这是一个看起来不起眼但影响全局的细节。
5.4 类别不平衡导致模型“偷懒”
现象：训练集里正类只占 10%，模型训练完成后，预测结果几乎全是负类，但精度看起来还有 90%。 原因：ERM 最小化的是平均损失，当负类样本占绝大多数时，把所有样本都预测成负类损失并不高，模型没有动力去学习正类的模式。 解决：有几种常见做法。一是对少数类做加权，在损失函数里给正类样本更高的权重；二是用 SMOTE 合成少数类样本（MATLAB 里可以查smote相关函数）；三是在训练时调整决策阈值，不一定要用 0.5，而是选择一个在验证集上 F1 分数最高的阈值。
5.5 多特征强相关导致权重不稳定
现象：模型训练多次，每次得到的权重向量都不一样，有时特征 A 的权重是正的，下次就变成负的。 原因：特征之间高度相关（共线性），导致梯度下降在参数空间里沿着一个“平坦谷底”来回震荡。本质上信息是冗余的，模型不知道该把权重分给哪个特征。 解决：先画相关性矩阵热力图，把相关系数超过 0.8 的特征对找出来。处理方法有二：直接删掉其中一个特征，或者用 PCA 降维后再送入模型。在这个 ERM 项目里，我倾向于直接删特征，因为 PCA 之后特征含义就丢失了，违背了可解释性的初衷。
6. 把模型做扎实：交叉验证、学习曲线与参数调优技巧
模型训练完、GUI 运行通顺，这只是第一步。想让这个项目在答辩或业务评审里站得住脚，还需要做两件进阶工作：用交叉验证评估稳定性，以及用学习曲线诊断偏差和方差。
交叉验证的代码很简洁。把训练数据分成 K 份（我一般取 K 等于 5 或 10），轮流拿其中一份做验证，其余 K-1 份做训练，最终得到 K 个精度值：
% 5折交叉验证评估模型稳定性 rng(42); K = 5; indices = crossvalind('Kfold', y_train, K); cv_acc = zeros(K, 1); for k = 1:K val_idx = (indices == k); train_idx = ~val_idx; X_cv_train = X_train_norm(train_idx, :); y_cv_train = y_train(train_idx); X_cv_val = X_train_norm(val_idx, :); y_cv_val = y_train(val_idx); [w_cv, b_cv, ~] = train_erm_classifier(X_cv_train, y_cv_train, 0.01, 500, 0.01); z_val = X_cv_val * w_cv + b_cv; p_val = 1 ./ (1 + exp(-z_val)); y_pred_val = double(p_val >= 0.5); cv_acc(k) = mean(y_pred_val == y_cv_val); end fprintf('交叉验证平均精度: %.2f%% ± %.2f%%\n', mean(cv_acc) * 100, std(cv_acc) * 100);如果交叉验证的 K 个精度值波动超过 5 个百分点，说明模型对数据划分过于敏感，这时候需要回到数据层面找原因——样本量太少、特征噪声太大、或者存在个别极端离群样本。如果波动很小但精度整体偏低（比如只有 75%），说明模型太简单，欠拟合，应该增加特征或改用非线性模型。
学习曲线的绘制逻辑也很直接：从训练集中随机取不同比例的子集（比如 10%、30%、50%、80%、100%），在每个子集上训练模型并同时记录训练精度和验证精度，画出两条曲线。如果训练精度远高于验证精度，且随着训练数据增多两条曲线逐渐靠拢，是典型的高方差表现，增加数据量可以有效改善；如果两条曲线都偏低且基本贴在一起，是典型的高偏差表现，加数据没有用，应该增加特征或换更强的模型。
最后说一个我个人的习惯：每次调完参数，我会把训练时用到的随机种子、学习率、正则化系数、特征列表连同精度指标一起记录在一张表里。做交叉验证时也建议用一个简单的表格记录每轮精度、均值、标准差。你不需要每次都记录，但这个习惯能帮你省下大量“之前是哪个参数组合得到的结果好”的重复试错时间。希望这个 ERM 多特征分类项目的拆解和代码能帮到你，也祝你训练顺利、预测准确。
本文还有配套的精品资源，点击获取
