文章目录
- 零、机器学习的企业价值
- 一、基础概念
- 1. 机器学习定义
- 2. 学习类型
- 3. 学习范式
- 二、核心算法与技术
- 1. 监督学习
- 2. 无监督学习
- 3. 模型评估与优化
- 三、工具与实践
- 1. 数据处理
- 2. 模型部署
- 3. 机器学习的生态圈
零、机器学习的企业价值
在企业或实际项目中，系统掌握的机器学习知识可从四个层面产生价值：
- 岗位说明
- 数据分析师能够用监督、无监督算法发现业务规律；
- 算法工程师能主导模型架构与部署。
- 机器学习工程化流程
- 数据处理与特征工程：缺失值、异常值处理以及特征选择/提取是模型上线前的必经步骤，直接影响线上效果。
- 模型训练与评估：交叉验证、超参数调优、早停等技术保证模型在生产环境的鲁棒性。
- 模型部署：SavedModel、ONNX、Docker 容器化或云服务（SageMaker、AI Platform）将模型变为可调用服务，实现低停机更新。
- 监控与持续学习：线上日志采集、A/B 测试、重训练流水线，使模型随业务数据演进。
- 工具与框架实践
- Scikit-Learn：快速原型、特征工程、模型选择。
- TensorFlow / PyTorch：构建复杂神经网络，支持研究与生产。
- Keras：高层 API 提升开发效率。
- OpenAI Gym、PyBullet：模拟环境加速强化学习算法迭代。
一、基础概念
1. 机器学习定义
- 通过数据驱动让计算机自动学习规律，无需显式编程（Arthur Samuel）。
- 核心公式：程序通过经验（E）提升任务（T）性能（P）（Tom Mitchell）。
2. 学习类型
- 监督学习：从标注数据（如分类、回归）中学习映射关系（如垃圾邮件分类）。
- 无监督学习：从无标注数据中发现模式（如聚类、降维）。
- 强化学习：通过试错与环境交互学习最优策略（如游戏 AI）。
- 半监督/自监督学习：利用少量标注+大量未标注数据。
3. 学习范式
- 批量学习：一次性处理全部数据。
- 在线学习：实时更新模型（如流式数据处理）。
- 基于实例学习：存储实例并通过相似度匹配预测（如 KNN）。
- 基于模型学习：构建数学模型（如线性回归）。
二、核心算法与技术
1. 监督学习
- 分类算法
- 逻辑回归、支持向量机（SVM）、决策树、随机森林、梯度提升树（如 XGBoost）、神经网络。
- 多类分类需使用 Softmax 激活函数和交叉熵损失。
- 回归算法
- 线性回归、决策树回归、神经网络回归。
- 评估指标：均方误差（MSE）、R 2 R^2R2分数。
2. 无监督学习
- 聚类
- K-Means、DBSCAN、层次聚类。
- 评估指标：轮廓系数、Calinski-Harabasz 指数。
- 降维
- 主成分分析（PCA）、t-SNE、UMAP。
- 应用场景：可视化、特征提取。
3. 模型评估与优化
- 评估指标
- 分类：准确率、精确率、召回率、F1 分数、ROC-AUC。
- 回归：MSE、RMSE、MAE、R 2 R^2R2。
- 无监督：轮廓系数、DB 指数。
- 验证方法
- 留出法、K 折交叉验证、自助法（Bootstrap）。
- 过拟合与欠拟合的判断与处理。
- 超参数调优
- 网格搜索、随机搜索、贝叶斯优化。
- 学习曲线分析（偏差-方差分解）。
三、工具与实践
1. 数据处理
- 数据预处理：缺失值处理、特征缩放（标准化/归一化）、编码分类变量（独热编码）。
- 特征工程：特征选择（方差阈值、互信息）、特征提取（PCA）。
2. 模型部署
- 模型保存与加载（.h5、.pb 格式）。
- 容器化部署（Docker）、云服务（AWS SageMaker、Google AI Platform）。
3. 机器学习的生态圈
- Python（及其标准库）——机器学习脚本和交互式开发的基础环境
- NumPy——提供多维数组与数学函数，是科学计算和机器学习算法的底层数据结构
- SciPy——基于 NumPy，实现优化、积分、线性代数等更复杂的科学计算功能
- Matplotlib——做图和可视化，帮助探索数据与展示结果
- Pandas——数据处理与分析，提供 DataFrame、Series 等结构化数据操作
- scikit-learn——机器学习核心库，涵盖分类、回归、聚类等传统算法及模型评估工具
这些库相互配合，构成了 Python 机器学习开发的“标配”环境。
在实际项目中，开发者往往还会根据需要引入其他生态工具（如用于深度学习的 TensorFlow、PyTorch，或用于数据管道的 Dask、Luigi 、以及Keras：高层 API，快速实验。）。
