简介：针对车贷违约预测这一信用风控应用，这份Python实战资源提供了从数据加载到模型评估的完整基线方案，适合机器学习初学者和金融数据岗位的入门者学习参考。压缩包共2个文件、整体约7.34MB，csv文件包含199717条客户贷款记录，覆盖客户编号、信用评分、贷款与资产比例、账户贷款次数等49个业务字段；py文件集成随机森林与AdaBoost两种模型，完整实现数据清洗、特征值与目标值划分、数据集分割、模型构建、模型保存和预测评估，并打印精确率、召回率、F1-score与准确率。两种模型当前准确率分别约为0.819和0.822，便于对比集成策略差异；代码按模块化步骤组织，可直接运行或二次修改。目前已有1062人学习下载，适合课程设计、算法对比实验或车贷风控建模入门。
1. 车贷违约预测项目拆解：随机森林与 AdaBoost 双模型，从数据到上线一次跑通
做车贷违约预测这个项目时，我最深的感受是：它不像图像分类那样有现成的预训练模型能抄作业，而是要把表格数据里的每个字段都当成“线索”来处理。这个项目给了一份结构化的车贷记录数据集，要求用 Python 训练模型预测客户是否违约，官方指定的两个模型是随机森林（Random Forest）和 AdaBoost。前者通过并行训练多棵决策树投票来降低方差，后者通过串行提升错分样本的权重来降低偏差，两条技术路线在风控场景里各有各的胜负手。项目里最反直觉的一点是：模型 AUC 冲到 0.99 不一定是好事，大概率是你把“未来信息”偷偷喂给了模型。这篇笔记我会从数据处理讲到双模型训练、参数调优、评估对比，最后落到概率校准和阈值调整，适合正在学机器学习但没碰过真实信贷数据的从业者。
2. 数据清洗与特征工程：拿到车贷数据集先做这三件事
2.1 数据清洗：缺失值、重复样本和异常值的处理顺序
车贷数据集最常见的格式是每行一个客户，列包含年龄、月收入、工作年限、贷款金额、首付比例、贷款期限、历史逾期次数、征信查询次数等字段，最后一列是是否违约的标签。这里有一个细节：模型训练前，必须先把数据拆成训练集和测试集，再做缺失值处理，顺序反了就会出现数据泄漏。我一般会先用 pandas 快速摸一遍数据底细，代码大概是这样的。
import pandas as pd df = pd.read_csv("car_loan_data.csv") # 先看每列的缺失比例和数据类型 missing_ratio = df.isnull().mean().sort_values(ascending=False) print("缺失比例 TOP10:\n", missing_ratio[missing_ratio > 0]) # 重复样本检查，按客户ID去重 df = df.drop_duplicates(subset=["customer_id"]) # 连续型特征的异常值：月收入为负数或超过 100 万，直接按缺失处理 df.loc[df["monthly_income"] <= 0, "monthly_income"] = None df.loc[df["monthly_income"] > 1_000_000, "monthly_income"] = None代码逻辑是先把每一列的缺失率打出来，确认哪些字段需要重点处理。drop_duplicates按客户ID去重，防止同一客户重复出现在训练集里导致模型记住特定样本。月收入为负或极端值属于录入错误，置为 None 之后交给后面的填充策略。这里有个经验：不要一开始就对所有缺失列统一填中位数，要先看缺失率，超过 50% 的列直接丢弃更省事，比如通讯地址、配偶姓名这类字段对违约预测几乎没有区分度。
2.2 特征工程：连续变量分箱与类别变量编码
车贷数据的特征是典型的混合类型：年龄、收入、贷款金额是连续值，职业类型、居住城市、婚姻状态是类别值。直接丢给随机森林和 AdaBoost，树模型能处理数值，但类别特征必须编码。我一般用的是“连续变量分箱 + 类别变量 label 编码”，这样既保留树模型的非线性能力，又避免 one-hot 造成维度爆炸。
from sklearn.preprocessing import LabelEncoder # 连续变量分箱：年龄、工作年限、贷款金额 df["age_bin"] = pd.cut(df["age"], bins=[18, 25, 35, 45, 60], labels=[0, 1, 2, 3]) df["work_year_bin"] = pd.cut(df["work_year"], bins=[0, 1, 3, 5, 10, 40], labels=[0, 1, 2, 3, 4]) df["loan_amount_bin"] = pd.cut(df["loan_amount"], bins=[0, 50000, 100000, 200000, 500000], labels=[0, 1, 2, 3]) # 类别变量：用 LabelEncoder 统一编码 cat_cols = ["job_type", "city", "marital_status", "education_level"] for col in cat_cols: df[col] = LabelEncoder().fit_transform(df[col].astype(str)) # 删除原始连续变量，避免重复特征 df = df.drop(columns=["age", "work_year", "loan_amount"])这里的逻辑是：树模型本身对连续值有切分能力，分箱的意义在于减少异常值对树切分点的干扰，也能让模型更容易捕捉“年龄段”这类业务含义。LabelEncoder给类别赋的整数值本身没有大小含义，但树模型做的是基于值的二分切分，所以不影响效果。如果你用的是逻辑回归，这里就必须换成 one-hot 或者目标编码了。
2.3 训练集与测试集划分：风控场景必须按时间切分
很多初学者在划分数据集时习惯用train_test_split(random_state=42)随机打乱，但信贷数据的标签跟时间强相关——某个时间段的宏观政策、利率变动会导致违约率整体波动。正确做法是按申请日期排序，用前 80% 的时间段做训练，后 20% 做测试。
from sklearn.model_selection import train_test_split # 按申请日期排序，时间靠前的作为训练集 df = df.sort_values("apply_date").reset_index(drop=True) cut_idx = int(len(df) * 0.8) train_df = df.iloc[:cut_idx].copy() test_df = df.iloc[cut_idx:].copy() # 从特征列中排除标签与ID、日期字段 feature_cols = [c for c in train_df.columns if c not in ["is_default", "customer_id", "apply_date"]] X_train = train_df[feature_cols] y_train = train_df["is_default"] X_test = test_df[feature_cols] y_test = test_df["is_default"] print(f"训练集样本数: {len(X_train)}, 测试集样本数: {len(X_test)}") print(f"训练集违约率: {y_train.mean():.4f}, 测试集违约率: {y_test.mean():.4f}")这里的关键在于：违约率在训练集和测试集之间的差异本身就是重要信号。如果测试集违约率明显高于训练集，说明该时间段的风控政策在收紧，模型上线后要定期监控分布漂移。按时间切分还能避免一个隐形问题——同一客户多笔贷款如果被随机分到两边，测试集就失去了“验证未知客户”的意义。
3. 随机森林模型实现：从决策树投票到参数调优
3.1 从决策树到随机森林：为什么风控场景首选它
随机森林的本质是 bagging 加随机特征选择。它训练多棵决策树，每棵树用有放回抽样得到的子集训练，每次切分时只随机挑选一部分特征进行最优选择。这样做的结果是：单棵决策树可能过拟合，但多棵树投票后，方差被大幅拉低。在车贷违约这种标签不平衡、特征噪声不小的场景里，随机森林的鲁棒性比单棵决策树和线性模型都强。它还有一个额外优势——能输出特征重要性，风控审核时可以解释“为什么拒绝这个客户”。
3.2 训练与调参：n_estimators 先放大再收，max_depth 控制过拟合
先用默认参数跑一遍基线，再做网格搜索。这里我给出一套在车贷数据集上表现稳定的参数范围，你可以根据自己的数据量调整。
from sklearn.ensemble import RandomForestClassifier from sklearn.model_selection import GridSearchCV from sklearn.metrics import roc_auc_score, classification_report # 基线模型：n_estimators=200 是经验值，过大收益递减 rf_base = RandomForestClassifier( n_estimators=200, max_depth=10, min_samples_leaf=20, class_weight="balanced", random_state=42, n_jobs=-1 ) rf_base.fit(X_train, y_train) y_pred_proba = rf_base.predict_proba(X_test)[:, 1] print(f"基线随机森林 AUC: {roc_auc_score(y_test, y_pred_proba):.4f}") # 网格调参：重点调 max_depth 和 min_samples_leaf param_grid = { "max_depth": [6, 8, 10, 12], "min_samples_leaf": [10, 20, 40], "n_estimators": [200, 400] } grid = GridSearchCV( RandomForestClassifier(class_weight="balanced", random_state=42, n_jobs=-1), param_grid, scoring="roc_auc", cv=3, verbose=1 ) grid.fit(X_train, y_train) print(f"最优参数: {grid.best_params_}") print(f"调参后 AUC: {grid.best_score_:.4f}")代码逻辑分两层：第一层是快速验证数据是否可用，如果基线 AUC 低于 0.7，问题多半在特征工程而不在模型，先去查特征泄漏。第二层用网格搜索精调，max_depth限制树的深度防止过拟合，min_samples_leaf保证叶子节点至少有 20 个样本，避免模型学到个例。class_weight="balanced"是处理类别不平衡的关键参数，它让每一类样本在损失函数中的权重与其频率成反比。
cv=3在风控场景下要注意：如果数据量不大，3 折交叉验证可能让每一折的违约样本数过少，导致验证指标波动很大。我建议换成分层采样交叉验证StratifiedKFold，保证每一折的违约比例与全量一致。
3.3 特征重要性：找出违约的最大贡献因子
随机森林训练完成后，一定要看特征重要性排序。这个步骤既是为了验证特征工程合理性，也是为了给业务解释。比如“历史逾期次数”如果排在首位，那模型学到的规律就符合常识；如果“客户ID”排在第一，那一定是泄漏了。
import matplotlib.pyplot as plt feature_importance = pd.Series( grid.best_estimator_.feature_importances_, index=feature_cols ).sort_values(ascending=False) # 只看前15个特征 feature_importance.head(15).plot(kind="barh", figsize=(10, 8)) plt.title("Random Forest Feature Importance") plt.tight_layout() plt.show() # 打印前10个特征及对应重要性分数 print(feature_importance.head(10))在车贷数据集上，我见过的合理特征重要性排序是：历史逾期次数、月收入、负债率、贷款金额、征信查询次数。如果模型给出的排序与此差异很大，比如“居住城市”重要性出奇地高，就要警惕类别编码是否引入了排序信息。另外，特征重要性只反映对切分增益的贡献，不反映正负方向，如果要解释“收入越高违约率越低”，还需要配合 SHAP 值验证。
4. AdaBoost 模型实现：串行提升与学习率调参
4.1 boosting 与 bagging 的本质区别：AdaBoost 如何咬住难样本
AdaBoost（Adaptive Boosting）是 boosting 家族的代表算法。它的训练逻辑是：第一棵树用均匀权重训练，预测完成后，把分错样本的权重提高，分对样本的权重降低，下一棵树重点学习上一轮的“错题集”，最后把所有树的加权结果加起来作为最终预测。和随机森林的并行投票不同，AdaBoost 是串行的，因此对噪声样本非常敏感——如果数据集里存在标签错误，AdaBoost 会花大力气去拟合这些错误样本。在车贷数据里，人工标注的违约标签偶尔会有错漏，所以用 AdaBoost 前要尽量确认标签质量。
4.2 训练与调参：learning_rate 和 n_estimators 的组合是胜负手
AdaBoost 最核心的两个参数是learning_rate（学习率）和n_estimators（弱学习器数量）。学习率控制每棵树对最终结果的贡献权重，学习率越低，需要的树越多，但泛化性通常更好；学习率过高则容易过拟合训练集中的噪声。
from sklearn.ensemble import AdaBoostClassifier from sklearn.tree import DecisionTreeClassifier # AdaBoost 默认用决策树桩（max_depth=1），这里加深到3以增强单棵树能力 ada_base = AdaBoostClassifier( estimator=DecisionTreeClassifier(max_depth=3, class_weight="balanced"), n_estimators=200, learning_rate=0.5, random_state=42 ) ada_base.fit(X_train, y_train) y_pred_ada = ada_base.predict_proba(X_test)[:, 1] print(f"AdaBoost 基线 AUC: {roc_auc_score(y_test, y_pred_ada):.4f}") # 学习率与树数量的联合搜索 param_grid_ada = { "learning_rate": [0.1, 0.3, 0.5, 0.8], "n_estimators": [50, 100, 200, 300] } grid_ada = GridSearchCV( AdaBoostClassifier( estimator=DecisionTreeClassifier(max_depth=3, class_weight="balanced"), random_state=42 ), param_grid_ada, scoring="roc_auc", cv=3 ) grid_ada.fit(X_train, y_train) print(f"AdaBoost 最优参数: {grid_ada.best_params_}") print(f"AdaBoost 调参后 AUC: {grid_ada.best_score_:.4f}")注意这里我用了estimator=DecisionTreeClassifier(max_depth=3)，而不是默认的深度 1 决策树桩。因为车贷特征间的交互关系较复杂，深度 3 的树能捕捉到“收入低但负债率也低”这类组合条件。class_weight="balanced"放在基学习器里同样有效，AdaBoost 的样本权重更新机制会与类别权重叠加。
一个重要的调参经验：learning_rate从 0.3 起步，n_estimators从 100 起步。如果最终 AUC 在测试集上比随机森林低 2 个百分点以内，不用急着换模型，先确认两个模型的输入特征是否完全一致。有时只是随机森林对类别不平衡的容忍度比 AdaBoost 更高，AdaBoost 更适合在做过 SMOTE 过采样之后使用。
4.3 随机森林与 AdaBoost 对比：哪个更适合作车贷模型的主模型
| 维度 | 随机森林 | AdaBoost |
|---|---|---|
| 训练方式 | 并行训练多棵树，投票取多数 | 串行训练，每轮提升错分样本权重 |
| 对噪声敏感度 | 较低，单棵树过拟合会被投票稀释 | 较高，噪声样本会被反复放大 |
| 主要风险 | 高维稀疏特征下容易学到无关模式 | 标签错误时严重过拟合 |
| 调参重点 | max_depth、min_samples_leaf、n_estimators | learning_rate、n_estimators、基学习器深度 |
| 类别不平衡处理 | class_weight 或样本加权 | 需配合采样或权重调整 |
| 特征重要性解释 | 基于基尼增益，稳定且直观 | 基于权重衰减，不太稳定 |
我的判断标准是：如果训练数据的标签是通过自动化规则生成的（比如“逾期超过30天”就被标记为违约），错误率低，可以用 AdaBoost 冲一冲上限；如果标签来自人工审核，难免有主观误判，就用随机森林作为主模型，AdaBoost 做交叉验证对照。两者在车贷数据集上的 AUC 通常差距在 1 到 3 个百分点以内，真正拉开差距的是后处理环节。
5. 车贷违约预测的五个常见坑：从特征泄漏到类别不平衡
5.1 特征泄漏：AUC 冲到 0.99 先别高兴，先查特征里有没有“未来信息”
现象：模型训练完成，测试集 AUC 达到 0.98，精确率 0.97，效果好得不像真实信贷数据。
原因：特征列里混入了与标签直接相关的信息。最常见的两类：一是把“当前是否逾期”这种与违约定义重叠的字段当作特征；二是把“违约金金额”或“催收次数”放进了特征列表，这些字段本质上是在违约发生之后才会产生的。
解决：构建特征列时先列黑名单，凡是“在预测时点之后才能获得”的字段一律排除。检查手段很简单——逐个特征做单变量 AUC，如果某个特征的独立 AUC 超过 0.9，九成是泄漏。从那以后我每次建模前都会强制跑一遍单变量 AUC 检查，最高不超过 0.8 才放心进入下一步。
5.2 类别不平衡：模型“永远不违约”，准确率却高达 90%
现象：分类报告里违约类的召回率是 0.0，但整体准确率 0.9 以上，模型把每个客户都预测为不违约。
原因：车贷数据集中违约样本通常只占 5% 到 10%。决策树分裂时，哪怕一个叶子节点被少数类样本污染，基尼系数的增益也不足以抵消分裂代价，所以模型学会“一刀切”地预测多数类。
解决：优先用class_weight="balanced"而不是 SMOTE。SMOTE 会生成过采样样本，但在信贷数据上，合成的违约样本可能不符合真实分布（比如收入与负债的组合在现实中不存在），反而增加假阳性率。class_weight不做样本生成，只在损失函数层面调整权重，模型学到的仍是真实样本的分布。如果class_weight效果不够，再考虑RandomUnderSampler对多数类做欠采样。
5.3 归一化泄漏：先 fit 全量数据再切分，测试集信息被偷看了
现象：模型在训练集和测试集上的表现差异很小，但上线后表现大幅下滑。
原因：做特征缩放时，有些人会先对全量数据fit_transform再切分，这样测试集的均值和方差已经参与计算，等于提前让模型“看到”了测试集的分布。树模型本身不需要归一化，但如果你的特征工程里加入了距离类特征或把特征喂给 AdaBoost 之外的模型，这个问题就会出现。
解决：严格遵循“先切分，后 fit 训练集，transform 训练集和测试集”的顺序。用Pipeline把特征处理和模型训练串起来，交叉验证时就不会写错顺序。在车贷项目里，我会用sklearn.pipeline.Pipeline把分箱、编码、模型三步打包，彻底杜绝这类低级错误。
5.4 超参数搜索时用错了评估指标：AUC 高不代表赚钱
现象：网格搜索选了最优 AUC 参数组合，实际业务验证时，好客户被拒的比例过高，坏账成本并没降下来。
原因：风控场景的收益结构不对称——拒绝一个好客户的损失是利息收入，放给一个坏客户的损失是本金，两者差距可能是几十倍。AUC 只看排序能力，不看阈值位置。
解决：评估指标应该用“业务成本函数”而不是单看 AUC。比如给好客户定义误杀成本为 100 元，坏客户误放成本为 10000 元，写一个自定义 scorer 传给GridSearchCV的scoring参数。这样搜索出来的参数组合才是业务最优解。
5.5 AdaBoost 过拟合：训练集 AUC 0.99，测试集 0.78
现象：AdaBoost 在训练集上表现完美，测试集上却比随机森林差，尤其当n_estimators设置到 500 以上时。
原因：AdaBoost 的权重更新机制会不断放大难样本的权重，当数据集中存在噪声样本时，后期的树几乎等于在拟合这几个噪声点；而n_estimators越大，放大效应越严重。
解决：把learning_rate降到 0.1，同时用早停法控制树的数量。sklearn 的AdaBoostClassifier没有内置早停，但你可以手动在GridSearchCV中把n_estimators搜索范围设为 50 到 200，超过这个范围基本都是过拟合区间。训练完成后对比训练集和测试集的 AUC，差值超过 0.15 就要考虑降低树的复杂度，或者改用随机森林。
6. 模型上线前的最后一步：概率校准与阈值寻优
在随机森林和 AdaBoost 都训练完之后，大多数教程会停在打印分类报告这一步，但真实上线场景里还差两个动作：概率校准和阈值寻优。predict_proba输出的概率值不等于真实违约率，树模型给出的概率存在系统性偏差——比如它输出 0.6，实际违约率可能是 0.4 或 0.8。这个偏差来源于树的叶子节点内样本比例，当每棵树的深度和权重不同时，输出的概率分布会偏离真实分布。解决办法是用CalibratedClassifierCV做 Platt Scaling 或 Isotonic Regression。
from sklearn.calibration import CalibratedClassifierCV # 对随机森林做概率校准，使用 Isotonic 方法 rf_calibrated = CalibratedClassifierCV( grid.best_estimator_, method="isotonic", cv=3 ) rf_calibrated.fit(X_train, y_train) # 校准后输出概率更接近真实违约率，可以直接阈值寻优 y_pred_calib = rf_calibrated.predict_proba(X_test)[:, 1] # 在 0.3 到 0.7 之间遍历阈值，以业务成本最小为目标选择阈值 best_threshold = 0.5 best_cost = float("inf") for threshold in [x / 100 for x in range(30, 71)]: y_pred_bin = (y_pred_calib >= threshold).astype(int) cost = ( ((y_pred_bin == 1) & (y_test == 0)).sum() * 100 + # 误杀好客户成本 ((y_pred_bin == 0) & (y_test == 1)).sum() * 10000 # 漏放坏客户成本 ) if cost < best_cost: best_cost = cost best_threshold = threshold print(f"最优业务阈值: {best_threshold}, 最小业务成本: {best_cost}")这段代码做的事是：先对模型输出概率做校准，再用业务成本函数遍历阈值。method="isotonic"是非参数校准方法，在小样本上表现好，但要求测试样本量大；如果数据量小，用method="sigmoid"更稳。cv=3保证校准过程不会过拟合。
最后提醒一个上线后的习惯：概率校准模型需要在生产环境定期重训，因为客户群体变化会导致概率分布漂移。从那以后我每次在风控模型上线前，都会强制走一遍“训练 -> 概率校准 -> 阈值寻优 -> 按新阈值重新评估成本”的完整流程，哪怕只是改了一个特征也照跑不误。希望这篇拆解笔记对你有用，把这套流程在你的车贷违约数据上跑一遍，再回来对照参数看差别，会比只看不练高效得多。
本文还有配套的精品资源，点击获取
