GBDT分类模型结果解读
一、方法概述
GBDT(Gradient Boosting Decision Tree)是一种基于决策树的集成学习算法,通过将多个弱分类器(回归树)进行迭代加权来提升模型的预测准确性。在每一次迭代中,GBDT根据上一轮模型的预测结果计算残差,并将残差作为下一轮模型的训练目标,逐步减小预测误差。本研究利用SPSSAU软件对欺诈检测数据进行GBDT分类建模分析,以评估该方法在欺诈识别任务中的有效性。
在SPSSAU【机器学习】模块选择【GBDT】,将变量拖拽至右侧对应分析框,操作如下图:
二、数据概览
本研究共纳入1000个样本,以换设备次数、支付失败次数、换IP次数、换IP国次数、交易金额5项指标作为自变量,以欺诈标签(0=非欺诈,1=欺诈)作为因变量进行分类建模。因变量分布如下表所示:
由表1可知,1000个样本中非欺诈样本(标签=0)为600例,占比60.00%;欺诈样本(标签=1)为400例,占比40.00%。数据无缺失值,全部纳入分析。
由表2可知,按照8:2的比例将数据划分为训练集(800个样本,占80.00%)和测试集(200个样本,占20.00%),用于模型训练与泛化能力评估。
三、特征权重分析
由表3可知,GBDT模型的特征权重分布以行为特征为主导。换设备次数的权重最高,为0.325(32.53%),对模型构建起关键作用。换IP国次数位居第二,权重为0.254(25.42%)。交易金额的权重为0.177(17.69%),支付失败次数的权重为0.176(17.64%),两者权重几乎相同。以上四项特征的权重合计达到93.28%。换IP次数的权重为0.067(6.72%),贡献相对较小。值得注意的是,GBDT模型中换设备次数和换IP国次数两项行为特征合计权重达57.95%,表明设备更换和跨国IP变更是欺诈检测的重要信号。
图1 GBDT特征权重分布图
由图1可知,GBDT的特征权重分布呈现两级分化格局:换设备次数(32.53%)和换IP国次数(25.42%)构成第一梯队,权重合计57.95%;支付失败次数(17.64%)和交易金额(17.69%)构成第二梯队,权重合计35.33%;换IP次数(6.72%)的贡献最小。该分布表明,在GBDT模型中,用户行为模式的变化(设备更换频率、IP国家变更)是欺诈判别的首要依据。
四、训练集模型评估
由表4可知,GBDT模型在训练集上表现出极高的拟合效果。整体准确率达到99.80%,综合f1-score为0.997,接近完美分类。非欺诈类(0.0)的精确率为0.996,召回率为1.000,f1-score为0.998;欺诈类(1.0)的精确率为1.000,召回率为0.994,f1-score为0.997。训练集上的优异表现说明模型充分学习了数据中的分类模式。
五、测试集模型评估
由表5可知,GBDT模型在测试集上的整体准确率为89.00%,综合精确率为89.93%,综合召回率为89.00%,综合f1-score为0.886。相较于训练集(准确率99.80%),测试集性能有所下降,存在一定的过拟合现象,但整体分类效果良好。
从各类别看:非欺诈类(0.0)的精确率为0.861,召回率为0.984,f1-score为0.919,召回率高达98.4%,表明模型对非欺诈样本的覆盖能力极强。欺诈类(1.0)的精确率为0.964,召回率为0.730,f1-score为0.831。欺诈类精确率较高(96.4%),但召回率为73.0%,约27%的欺诈样本未能被识别。该结果与CatBoost模型的测试集表现完全一致(准确率89.00%,f1-score=0.886),说明两种基于梯度提升的算法在本数据集上的泛化能力相当。
六、模型参数汇总
由表6可知,GBDT模型采用deviance(对数损失)函数,构建100棵回归树,学习率为0.1,树最大深度为6。样本采样率为1.0,节点分裂最小样本数为2,叶节点最小样本数为1,模型收敛参数为0.001。模型在测试集上取得89.00%的准确率和0.886的f1-score。
七、结论
本研究基于SPSSAU平台,利用GBDT算法对1000个欺诈检测样本进行分类建模分析。结果表明,换设备次数(32.53%)和换IP国次数(25.42%)是最重要的两个欺诈判别特征,两者权重合计57.95%。模型在测试集上的准确率为89.00%,综合f1-score为0.886,整体分类效果良好。GBDT的特征权重分布强调行为模式变化(设备更换、IP国家变更)的判别价值,与CatBoost模型的测试集表现一致,验证了梯度提升方法在该数据集上的稳定性。