Python机器学习实战：从零搭建完整项目流程与核心算法应用-平芜编程栈

想学机器学习，但面对铺天盖地的“从入门到精通”课程，你是不是总在犹豫：这些课程真的能让我从零开始，做出实际项目吗？还是说，学完只是记住了几个算法名字，面对真实数据依然无从下手？

今天这篇文章，我们不谈空洞的“重要性”，也不做课程推销。我们将以一套结构化的实战路径为核心，手把手带你用Python，从第一行代码开始，真正跑通机器学习的核心流程。你会发现，机器学习入门的关键，不在于背下所有数学公式，而在于快速建立“数据→问题→算法→评估”的工程化思维闭环。我们将聚焦最核心的几类算法——回归、聚类、决策树、随机森林，并通过完整的项目案例，让你理解它们分别解决什么问题，代码怎么写，结果怎么看，以及新手最容易在哪个环节“翻车”。

读完本文，你将能清晰地回答：给我一组数据，我该选哪个算法？代码框架长什么样？模型训练好了怎么判断它好不好？以及，如何避开那些教程里很少提，但实践中一定会遇到的“坑”。

1. 机器学习入门，真正要跨越的障碍是什么？

很多初学者误以为机器学习的门槛是复杂的数学。实际上，对于绝大多数应用型开发者和数据分析师而言，第一个真正的障碍是工程化实践链条的断裂。你可能在理论上知道线性回归要最小化损失函数，但当你用sklearn导入一个LinearRegression模型，用fit()方法训练后，面对输出的模型，却不知道下一步该做什么：模型效果到底怎么样？有没有过拟合？怎么用这个模型去预测新数据？

第二个障碍是算法与场景的错配。你知道K-Means是聚类算法，但给你一份客户数据，你是该用聚类分群，还是用分类去打标签？选择错误，后续所有工作都是徒劳。

因此，本文的目标不是复述教科书，而是搭建一个最小可行实践框架。我们将通过一个贯穿始终的案例——基于波士顿房价数据集（或类似的回归数据集）和鸢尾花数据集（分类/聚类），来演示如何将理论转化为可运行、可评估的代码。你会看到从数据加载、预处理、模型训练、评估到可视化的完整流水线。这套框架可以像模板一样，被你应用到自己的项目中。

2. 核心概念：监督学习、无监督学习与算法地图

在写代码之前，必须厘清几个根本概念，这决定了你整个项目的方向。

监督学习：我们给算法提供“问题”和“标准答案”。算法学习从“问题”到“答案”的映射关系。主要用于预测。

回归：预测一个连续值。比如预测房价、销售额、温度。核心算法：线性回归、决策树回归、随机森林回归。
分类：预测一个离散类别。比如判断邮件是垃圾邮件还是正常邮件，图像是猫还是狗。核心算法：逻辑回归、决策树、随机森林、支持向量机(SVM)、朴素贝叶斯。

无监督学习：我们只给算法“问题”，没有“标准答案”。算法自己去发现数据中的内在结构或模式。主要用于发现。

聚类：将相似的数据点自动分组。比如客户分群、新闻主题归类。核心算法：K-Means, DBSCAN。
降维：在尽可能保留信息的前提下，减少数据特征的数量，便于可视化或简化计算。核心算法：PCA（主成分分析）。

一个关键对比：

决策树 vs 随机森林：决策树是一个简单的“if-else”规则树，容易过拟合（在训练集上表现太好，在未知数据上表现差）。随机森林是构建多棵决策树并综合它们的意见（如投票或平均），能有效降低过拟合，提高模型稳定性和精度。
K-Means vs DBSCAN：K-Means需要你事先指定聚类的数量K，且对异常值和非球形聚类效果不佳。DBSCAN不需要指定K，能识别任意形状的簇，并能将噪声点识别出来，但对参数设置更敏感。

理解这些，你就能在面对问题时做出第一层选择：我有标签吗？我要预测数值还是类别？我要探索数据分布吗？

3. 环境准备：打造你的Python机器学习工作站

工欲善其事，必先利其器。一个稳定、隔离的Python环境是高效学习的基础。强烈建议使用conda或venv创建虚拟环境，避免包版本冲突。

3.1 安装Python与包管理工具

安装Python：前往 Python官网下载并安装最新稳定版（如3.9+）。安装时务必勾选“Add Python to PATH”。
验证安装：打开终端（Windows CMD/PowerShell, Mac/Linux Terminal），输入：
```
python --version pip --version
```
应显示Python和pip的版本号。

3.2 创建虚拟环境并安装核心库

使用venv（Python内置）创建环境：

# 在项目目录下，创建名为 `ml_env` 的虚拟环境 python -m venv ml_env # 激活环境 # Windows: ml_env\Scripts\activate # Mac/Linux: source ml_env/bin/activate # 激活后，命令行提示符前应显示 `(ml_env)`

安装机器学习四大核心库：

pip install numpy pandas matplotlib scikit-learn -i https://pypi.tuna.tsinghua.edu.cn/simple

numpy: 提供高效的数组计算，是几乎所有科学计算库的基础。
pandas: 数据处理和分析利器，提供DataFrame结构，像操作Excel表格一样操作数据。
matplotlib: 绘图库，用于数据可视化。
scikit-learn（简称sklearn）：机器学习核心库，包含了我们所需的所有经典算法、数据预处理和评估工具。

验证安装：

# 在Python交互环境或一个.py脚本中运行 import numpy as np import pandas as pd import matplotlib.pyplot as plt from sklearn import datasets print("所有库导入成功！")

4. 实战第一步：数据加载与探索性分析

任何机器学习项目都始于数据。我们以sklearn自带的波士顿房价数据集（回归任务）和鸢尾花数据集（分类/聚类任务）为例。

# 导入数据集 from sklearn import datasets # 加载波士顿房价数据集 (回归任务) boston = datasets.load_boston() # 注意：新版本sklearn中该数据集可能被移除，可用 `fetch_california_housing` 替代 # 加载鸢尾花数据集 (分类/聚类任务) iris = datasets.load_iris() # 通常，数据集被封装为一个类似字典的对象 # 查看数据集描述 print(boston.DESCR) # 打印数据集的详细描述 print("\n鸢尾花数据集特征名:", iris.feature_names) print("鸢尾花数据集目标名:", iris.target_names)

将数据转换为Pandas DataFrame，这是最直观的分析方式：

import pandas as pd # 将鸢尾花数据转为DataFrame iris_df = pd.DataFrame(data=iris.data, columns=iris.feature_names) iris_df['target'] = iris.target # 添加目标列（花的种类） print(iris_df.head()) # 查看前5行 print(iris_df.info()) # 查看数据概览，有无缺失值 print(iris_df.describe()) # 查看数值特征的统计信息（均值、标准差等）

进行简单的可视化，直观感受数据：

import matplotlib.pyplot as plt # 绘制鸢尾花特征散点图矩阵（初步看分布与关系） pd.plotting.scatter_matrix(iris_df.iloc[:, :4], # 只取前4个特征列 c=iris_df['target'], # 按目标值着色 figsize=(12, 12), marker='o', hist_kwds={'bins': 20}, s=60, alpha=0.8) plt.suptitle('鸢尾花数据集特征散点图矩阵', y=1.02, fontsize=16) plt.tight_layout() plt.show()

这个步骤至关重要。通过describe()和可视化，你能发现数据的尺度差异（是否需要标准化）、分布情况（是否正态）、以及特征与目标之间可能存在的线性或非线性关系。

5. 核心算法实战：从回归到聚类

接下来，我们进入核心环节，用代码实现各个算法，并理解关键参数。

5.1 线性回归实战：预测房价

假设我们使用加州房价数据集（fetch_california_housing）替代波士顿房价数据集。

from sklearn.datasets import fetch_california_housing from sklearn.model_selection import train_test_split from sklearn.linear_model import LinearRegression from sklearn.metrics import mean_squared_error, r2_score import numpy as np # 1. 加载数据 housing = fetch_california_housing() X = housing.data # 特征 y = housing.target # 目标值（房价中位数） # 2. 划分训练集和测试集（7:3） X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # random_state 保证每次划分结果一致，便于复现 # 3. 创建并训练模型 lr_model = LinearRegression() lr_model.fit(X_train, y_train) # 核心训练步骤 # 4. 在测试集上进行预测 y_pred = lr_model.predict(X_test) # 5. 评估模型 mse = mean_squared_error(y_test, y_pred) rmse = np.sqrt(mse) # 均方根误差，与目标值同一量纲，更易解释 r2 = r2_score(y_test, y_pred) # R方分数，越接近1越好 print(f"线性回归模型评估：") print(f" 均方误差 (MSE): {mse:.4f}") print(f" 均方根误差 (RMSE): {rmse:.4f}") print(f" R^2 分数: {r2:.4f}") # 查看模型系数（权重） print(f"\n模型截距 (intercept): {lr_model.intercept_:.4f}") print("模型系数 (coefficients):") for feat, coef in zip(housing.feature_names, lr_model.coef_): print(f" {feat}: {coef:.4f}")

关键点：

train_test_split：必须将数据分为训练集和测试集，用测试集评估模型泛化能力，防止自欺欺人。
fit和predict：这是sklearn所有模型的统一接口，极其简洁。
评估指标：回归任务看RMSE（误差值）和R^2（拟合优度）。

5.2 决策树与随机森林分类实战：识别鸢尾花种类

from sklearn.tree import DecisionTreeClassifier from sklearn.ensemble import RandomForestClassifier from sklearn.metrics import classification_report, confusion_matrix, accuracy_score # 使用鸢尾花数据 X = iris.data y = iris.target X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42, stratify=y) # stratify=y 保证训练集和测试集中各类别比例与原数据一致 # 1. 决策树分类 dt_model = DecisionTreeClassifier(max_depth=3, random_state=42) # 限制树深度，防止过拟合 dt_model.fit(X_train, y_train) y_pred_dt = dt_model.predict(X_test) print("=== 决策树分类器 ===") print(f"准确率: {accuracy_score(y_test, y_pred_dt):.4f}") print("\n分类报告:") print(classification_report(y_test, y_pred_dt, target_names=iris.target_names)) print("混淆矩阵:") print(confusion_matrix(y_test, y_pred_dt)) # 2. 随机森林分类 rf_model = RandomForestClassifier(n_estimators=100, # 森林中树的数量 max_depth=5, random_state=42) rf_model.fit(X_train, y_train) y_pred_rf = rf_model.predict(X_test) print("\n=== 随机森林分类器 ===") print(f"准确率: {accuracy_score(y_test, y_pred_rf):.4f}") print("\n分类报告:") print(classification_report(y_test, y_pred_rf, target_names=iris.target_names))

关键点：

max_depth：决策树最重要的超参数之一，控制模型复杂度。不设置或设置过大容易过拟合。
n_estimators：随机森林中树的数量，通常越多越好，但计算成本也越高。
评估指标：分类任务看准确率、精确率、召回率、F1-score（通过classification_report）。
stratify：在划分数据时保持类别分布，对于类别不平衡的数据集尤为重要。

5.3 K-Means聚类实战：探索鸢尾花数据的内在分组

注意，聚类是无监督学习，我们不使用y（花的真实种类）来训练模型，仅用特征来探索。

from sklearn.cluster import KMeans from sklearn.preprocessing import StandardScaler # 1. 数据预处理：聚类算法对特征尺度敏感，通常需要标准化 scaler = StandardScaler() X_scaled = scaler.fit_transform(iris.data) # 标准化，使每个特征均值为0，方差为1 # 2. 使用K-Means聚类 # 首先需要确定一个合适的K值（簇数）。这里我们使用“肘部法则”辅助判断。 inertias = [] K_range = range(1, 11) for k in K_range: kmeans = KMeans(n_clusters=k, random_state=42, n_init='auto') # n_init 明确指定以消除警告 kmeans.fit(X_scaled) inertias.append(kmeans.inertia_) # inertia_是样本到其最近聚类中心的距离平方和 # 绘制肘部法则图 plt.figure(figsize=(8,5)) plt.plot(K_range, inertias, 'bo-') plt.xlabel('Number of clusters (K)') plt.ylabel('Inertia') plt.title('Elbow Method For Optimal K') plt.grid(True) plt.show() # 3. 从图中观察，K=3时下降趋势变缓，我们选择K=3 optimal_k = 3 kmeans_final = KMeans(n_clusters=optimal_k, random_state=42, n_init='auto') cluster_labels = kmeans_final.fit_predict(X_scaled) # 获取每个样本的聚类标签 # 4. 将聚类结果添加到原始DataFrame中 iris_df['cluster'] = cluster_labels # 5. 可视化聚类结果（使用前两个主成分进行降维以便在二维平面展示） from sklearn.decomposition import PCA pca = PCA(n_components=2) X_pca = pca.fit_transform(X_scaled) plt.figure(figsize=(12,5)) # 子图1：根据真实种类着色 plt.subplot(1,2,1) scatter1 = plt.scatter(X_pca[:, 0], X_pca[:, 1], c=iris.target, cmap='viridis', edgecolor='k', s=50) plt.xlabel('Principal Component 1') plt.ylabel('Principal Component 2') plt.title('Iris Data (True Species)') plt.colorbar(scatter1, label='True Species') # 子图2：根据聚类结果着色 plt.subplot(1,2,2) scatter2 = plt.scatter(X_pca[:, 0], X_pca[:, 1], c=cluster_labels, cmap='plasma', edgecolor='k', s=50) plt.xlabel('Principal Component 1') plt.ylabel('Principal Component 2') plt.title('Iris Data (K-Means Clustering, K=3)') plt.colorbar(scatter2, label='Cluster Label') plt.tight_layout() plt.show() # 对比真实类别与聚类结果的匹配度（仅用于分析，聚类本身不知道真实标签） from sklearn.metrics import adjusted_rand_score ari = adjusted_rand_score(iris.target, cluster_labels) print(f"调整兰德指数 (ARI): {ari:.4f}") # ARI接近1表示聚类结果与真实标签高度一致，接近0表示随机。

关键点：

标准化：聚类基于距离计算，必须消除特征量纲影响。
确定K值：“肘部法则”是启发式方法，看inertia下降的拐点。
fit_predict：聚类算法常用方法，一步完成训练和预测（分配簇标签）。
评估：无监督学习没有绝对标准，常用内部指标（如inertia）和外部指标（如ARI，需要有真实标签时）辅助评估。

6. 模型评估与优化：避免“纸上谈兵”

训练出一个模型只是开始，评估其真实性能并优化才是核心。

6.1 交叉验证：更稳健的性能估计

使用train_test_split一次划分可能有偶然性。交叉验证（Cross-Validation）将数据多次划分，得到更稳定的性能评估。

from sklearn.model_selection import cross_val_score # 对随机森林模型进行5折交叉验证 rf_model_cv = RandomForestClassifier(n_estimators=100, random_state=42) cv_scores = cross_val_score(rf_model_cv, X, y, cv=5, scoring='accuracy') # cv=5 表示5折 print(f"交叉验证准确率得分: {cv_scores}") print(f"平均准确率: {cv_scores.mean():.4f} (+/- {cv_scores.std() * 2:.4f})") # 输出均值和95%置信区间

6.2 超参数调优：让模型表现更好

模型参数（如随机森林的n_estimators,max_depth）需要调整。手动尝试效率低，使用GridSearchCV（网格搜索）自动化这个过程。

from sklearn.model_selection import GridSearchCV # 定义参数网格 param_grid = { 'n_estimators': [50, 100, 200], 'max_depth': [3, 5, 10, None], # None表示不限制深度 'min_samples_split': [2, 5, 10] } # 创建基础模型 rf = RandomForestClassifier(random_state=42) # 创建GridSearchCV对象 grid_search = GridSearchCV(estimator=rf, param_grid=param_grid, cv=5, # 使用5折交叉验证进行内部评估 scoring='accuracy', n_jobs=-1) # 使用所有CPU核心并行计算 # 在训练集上执行网格搜索 grid_search.fit(X_train, y_train) # 输出最佳参数和最佳得分 print(f"最佳参数组合: {grid_search.best_params_}") print(f"最佳交叉验证准确率: {grid_search.best_score_:.4f}") # 使用最佳模型在测试集上评估 best_rf_model = grid_search.best_estimator_ y_pred_best = best_rf_model.predict(X_test) print(f"测试集准确率: {accuracy_score(y_test, y_pred_best):.4f}")

警告：网格搜索非常耗时，参数组合越多，计算量越大。务必先在数据子集或小参数网格上测试。

7. 完整项目实战：端到端机器学习流水线

我们将整合所有步骤，构建一个完整的、可复用的机器学习项目管道。假设任务是根据鸢尾花特征预测其种类。

# 文件：iris_ml_pipeline.py import pandas as pd import numpy as np import matplotlib.pyplot as plt from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split, GridSearchCV from sklearn.preprocessing import StandardScaler from sklearn.ensemble import RandomForestClassifier from sklearn.pipeline import Pipeline from sklearn.metrics import classification_report, confusion_matrix, accuracy_score import joblib # 用于保存和加载模型 # 1. 数据加载与探索 iris = load_iris() X, y = iris.data, iris.target feature_names = iris.feature_names target_names = iris.target_names print(f"数据集形状: {X.shape}") print(f"特征: {feature_names}") print(f"目标类别: {target_names}") # 2. 划分数据集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42, stratify=y) print(f"训练集大小: {X_train.shape}, 测试集大小: {X_test.shape}") # 3. 构建机器学习管道 (Pipeline) # Pipeline能将数据预处理和模型训练步骤串联，避免数据泄露，且使用更简洁。 pipeline = Pipeline([ ('scaler', StandardScaler()), # 第一步：标准化 ('classifier', RandomForestClassifier(random_state=42)) # 第二步：分类器 ]) # 4. 定义超参数网格（注意参数名前要加上步骤名__） param_grid = { 'classifier__n_estimators': [100, 200], 'classifier__max_depth': [5, 10, None], 'classifier__min_samples_split': [2, 5] } # 5. 使用网格搜索进行超参数调优 grid_search = GridSearchCV(pipeline, param_grid, cv=5, scoring='accuracy', n_jobs=-1) grid_search.fit(X_train, y_train) print(f"\n最佳参数: {grid_search.best_params_}") print(f"最佳交叉验证准确率: {grid_search.best_score_:.4f}") # 6. 评估最佳模型 best_model = grid_search.best_estimator_ y_pred = best_model.predict(X_test) print("\n=== 在测试集上的最终评估 ===") print(f"准确率: {accuracy_score(y_test, y_pred):.4f}") print("\n详细分类报告:") print(classification_report(y_test, y_pred, target_names=target_names)) # 7. 可视化混淆矩阵 cm = confusion_matrix(y_test, y_pred) fig, ax = plt.subplots(figsize=(6,6)) im = ax.imshow(cm, interpolation='nearest', cmap=plt.cm.Blues) ax.figure.colorbar(im, ax=ax) ax.set(xticks=np.arange(cm.shape[1]), yticks=np.arange(cm.shape[0]), xticklabels=target_names, yticklabels=target_names, title='混淆矩阵', ylabel='真实标签', xlabel='预测标签') # 在格子中填充数字 thresh = cm.max() / 2. for i in range(cm.shape[0]): for j in range(cm.shape[1]): ax.text(j, i, format(cm[i, j], 'd'), ha="center", va="center", color="white" if cm[i, j] > thresh else "black") plt.tight_layout() plt.show() # 8. 保存模型，以便后续直接使用，无需重新训练 model_filename = 'iris_random_forest_model.pkl' joblib.dump(best_model, model_filename) print(f"\n模型已保存至: {model_filename}") # 9. 加载模型并进行新样本预测 (模拟上线使用) loaded_model = joblib.load(model_filename) # 假设有一个新样本：花萼长5.1cm，宽3.5cm，花瓣长1.4cm，宽0.2cm new_sample = np.array([[5.1, 3.5, 1.4, 0.2]]) prediction = loaded_model.predict(new_sample) predicted_class = target_names[prediction[0]] print(f"\n新样本预测结果: {predicted_class}")

这个脚本展示了一个标准项目流程：数据加载、探索、划分、构建管道（集成预处理和模型）、调参、评估、可视化、模型持久化。你可以将此作为自己项目的模板。

8. 常见问题与排查思路

在实际操作中，你几乎一定会遇到下面这些问题。

问题现象	可能原因	排查方式	解决方案
导入`sklearn`失败，提示缺少模块	1.`scikit-learn`未安装。 2. 虚拟环境未激活或安装到了全局环境。	1. 在终端输入`pip list`，查看是否有`scikit-learn`。 2. 确认命令行提示符前有`(env_name)`。	1. 激活虚拟环境后，运行`pip install scikit-learn`。 2. 如果环境混乱，建议重建虚拟环境。
`train_test_split`后模型准确率极高（>0.99）或极低	1.数据泄露：在划分前对整体数据进行了标准化或特征选择，信息从测试集“泄露”到了训练集。 2. 测试集划分比例太小或太大。 3. 数据本身特征与目标无关。	1. 检查代码，确保所有基于数据的变换（如`StandardScaler`的`fit`）只在训练集上进行，然后用`transform`应用到测试集。 2. 使用`Pipeline`避免泄露。 3. 检查`train_test_split`的`test_size`参数。	1. 严格遵循：在训练集上`fit_transform`，在测试集上只`transform`。 2. 使用`sklearn.pipeline.Pipeline`。 3. 调整`test_size`（常用0.2或0.3）。
决策树/随机森林在训练集上100%准确，测试集上很差	过拟合。模型过于复杂，记住了训练数据的噪声。	1. 查看决策树深度（`model.tree_.max_depth`）。 2. 对比训练集和测试集准确率。	1. 增加`max_depth`限制。 2. 增加`min_samples_split`（节点分裂所需最小样本数）。 3. 增加`min_samples_leaf`（叶节点最小样本数）。 4. 对随机森林，增加`n_estimators`。
K-Means聚类结果不理想，所有点聚成一类或非常分散	1. 数据未标准化，某个特征主导了距离计算。 2. K值选择不当。 3. 数据本身没有明显的簇结构。	1. 检查数据尺度，使用`StandardScaler`。 2. 绘制“肘部法则”图，重新选择K。 3. 可视化数据（如用PCA降至2维观察）。	1.务必先标准化。 2. 尝试不同的K值，结合业务理解。 3. 考虑使用DBSCAN等密度聚类算法。
网格搜索`GridSearchCV`运行时间过长	参数网格过大，或数据量太大。	监控CPU和内存使用情况。	1. 先用小参数网格或数据子集测试。 2. 使用`RandomizedSearchCV`（随机搜索）替代，它尝试随机参数组合，效率更高。 3. 减少`cv`折数（如从5减到3）。
模型保存后，加载预测报错	1. 保存和加载的环境（库版本）不一致。 2. 保存的对象不是最终的`estimator`（如保存了`GridSearchCV`对象）。	1. 检查`sklearn`和`joblib`版本。 2. 确认保存的是`best_estimator_`。	1. 保持环境一致，可使用`requirements.txt`记录版本。 2. 保存`grid_search.best_estimator_`或训练好的最终模型。

9. 最佳实践与工程化建议

当你掌握了基础流程后，这些建议能帮助你将实验代码升级为更健壮的项目代码。

版本控制与依赖管理：
- 使用git管理代码。
- 使用requirements.txt或environment.yml精确记录所有包及其版本。
```
# 生成 requirements.txt pip freeze > requirements.txt # 在新环境安装 pip install -r requirements.txt
```
数据预处理管道化：
- 始终使用sklearn.pipeline.Pipeline。它将数据预处理（标准化、编码、填充缺失值）和模型训练封装在一起，能有效防止数据泄露，并使代码更清晰、易于部署。
特征工程是核心：
- 模型性能的上限往往由数据和特征决定。花时间在特征工程上：处理缺失值、异常值，创建新特征（如多项式特征、交互项），进行特征选择。
模型评估不止于准确率：
- 对于分类问题，尤其是类别不平衡时，多看混淆矩阵、精确率、召回率和F1-score。
- 对于回归问题，结合RMSE、MAE和R²，并绘制预测值与真实值的散点图。
日志记录与实验跟踪：
- 不要只靠打印语句。使用logging模块记录关键步骤、参数和结果。
- 对于复杂的调参实验，考虑使用MLflow或Weights & Biases等工具跟踪实验，记录超参数、指标和模型。
从Jupyter Notebook到脚本：
- 在Notebook中探索和实验是高效的，但最终项目应重构为模块化的Python脚本（.py文件），便于复用、测试和集成。
理解你的模型：
- 不要满足于当一个“调包侠”。了解算法基本原理能帮助你在模型表现不佳时进行有效诊断。
- 使用sklearn的feature_importances_属性（对于树模型）或permutation_importance来理解哪些特征对预测最重要。