71、机器学习技术综合解析

机器学习技术综合解析

1. 卷积层与视频分类

在处理不稳定梯度问题时，一维卷积层表现出色。在循环神经网络（RNN）中，一个或多个一维卷积层可有效预处理输入，比如降低时间分辨率（下采样），帮助 RNN 层检测长期模式，甚至可以仅使用卷积层构建 WaveNet 架构。

对于基于视觉内容的视频分类，可采用如下架构：
1. 每秒提取一帧。
2. 将每帧输入到同一个卷积神经网络（如预训练的 Xception 模型，若数据集不大可冻结参数）。
3. 将 CNN 的输出序列输入到序列 - 向量 RNN。
4. 最后通过 softmax 层输出各类别的概率。训练时使用交叉熵作为损失函数。
若要结合音频进行分类，可使用一组步幅为 1 的一维卷积层，将每秒数千个音频帧的时间分辨率降低到每秒一帧，以匹配图像帧数，再将输出序列与序列 - 向量 RNN 的输入沿最后一维拼接。

2. 自然语言处理

2.1 有状态与无状态 RNN

无状态 RNN 只能捕捉长度小于或等于其训练窗口大小的模式，而有状态 RNN 能捕捉更长期的模式。但实现有状态 RNN 难度较大，尤其是数据集的准备，且由于连续批次并非独立同分布（IID），梯度下降在处理非 IID 数据集时效果不佳，所以有状态 RNN 并非总是表现更好。

2.2 序列到序列翻译

逐词翻译句子效果通常较差，如将法语 “Je vous en prie” 逐词翻译会得到奇怪结果。普通序列到序列 RNN 会在读取第一个单词后立即开始翻译，而编码器 - 解码器 RNN 会先读取整个句子再进行翻译。不过，也可设想一种普通序列到序列 RN