1. 先搞清楚白化在纠正什么毛病
“白化”这个词第一次出现在我面前时，我以为它说的是图像的白平衡校正。直到有一次做特征工程，同事的预处理脚本里冒出来一行X_white = whiten(X)，我才意识到这是数据预处理里一个独立而且相当硬核的环节。它要做的事情说穿了很简单：把一批数据的协方差矩阵变换成单位矩阵，让各个特征之间互不相关、方差统一归一到 1。但就是这么一个听起来朴素的目标，在实际项目里能翻出很多花样——PCA 白化、ZCA 白化、Patch 白化、带正则项的近似白化，每一种在什么场景下用、正则系数该取多大、和批归一化一起上会不会打架，全都是踩过坑才知道的事。
这篇内容我打算把它写透一点。如果你是刚接触数据预处理的新手，看完能自己手写出一份可用的白化代码，并且知道每一步为什么要这么写；如果你已经在做图像训练数据预处理，那里面关于 Patch 白化和数值稳定性的部分应该能直接拿去用。我尽量不堆公式，而是把每个公式背后“为什么要这么干”讲清楚，再把我在真实项目里翻过的车一并交代出来。
1.1 从一张“歪掉的”散点图说起
假设你手上有两个特征，画成散点图之后是一坨斜着的椭圆。这个形状本身就携带了信息：椭圆越扁，说明两个特征的相关性越强；椭圆越长，说明这个方向的方差越大。很多模型对这种事是不敏感的，比如决策树、随机森林，它们只看单个特征的分裂点，特征怎么旋转、怎么缩放都不影响结果。但换成线性回归、逻辑回归、KNN、SVM、K-Means 这些依赖距离度量或者梯度下降的模型，这一坨斜椭圆就是麻烦的来源。
举个具体点的例子。KNN 用的是欧氏距离，如果两个特征的量纲差了 100 倍，那距离几乎完全由量纲大的那个特征决定，量纲小的特征相当于被忽略了。梯度下降也一样，特征之间相关性强的时候，损失函数的等高线会变成一个狭长的山谷，梯度方向在山谷两侧来回横跳，收敛慢得让人怀疑人生。白化要解决的，正是这一类“形状问题”：把斜椭圆掰成正圆，把不同方向的方差拉平，让所有方向在几何上是等价的。
所以白化的目标可以拆成两条：一是去相关，让协方差矩阵的非对角元变成 0；二是统一方差，让对角线上的元素都变成 1。两条合在一起，就是让协方差矩阵等于单位矩阵 I。理解了这两条，后面所有的公式推导就有了落脚点——不管用特征值分解还是 SVD，不管叫 PCA 白化还是 ZCA 白化，本质上都是在构造一个线性变换矩阵 W，使得cov(WX) = I。
1.2 白化、标准化、PCA 降维，边界到底在哪里
这三个东西经常被混着说，但它们的目的完全不同，我得先把边界划清楚，不然后面的实操容易做错。
标准化（Standardization）是逐特征做的，每个特征减自己的均值、除以自己的标准差，做完之后每个特征方差是 1，但特征之间的相关性一点没动。也就是说，原来那坨斜椭圆，标准化之后还是斜的，只是长短轴的长度换了，方向没变。标准化是最便宜的预处理，几乎不会有副作用，绝大多数模型都建议先做。
PCA 降维是想办法把数据投影到方差最大的几个方向上，顺便丢掉方差很小的方向。它做的是去相关和降维，但不会把保留方向上的方差统一——第一主成分的方差依然大于第二主成分。算完 PCA，你得到的是一个轴对齐的椭圆，但依然是个椭圆。
PCA 白化 = PCA 降维 + 把剩下每个主成分的方差都缩放到 1。算完之后你得到的是一个正圆，而且这个圆画在旋转过的新坐标系里。
ZCA 白化 = 白化，但是把结果再旋转回原来的坐标轴方向。它同样让协方差变成单位阵，但得到的数据点看起来跟原始数据“最像”，因为它是在所有满足白化条件的变换里，让WX与X之间欧氏距离最小的那一个。
下面这张表我建议直接记住，选型的时候对着看就行。
| 方法 | 是否去相关 | 是否统一方差 | 是否改变坐标系 | 是否降维 | 典型用途 |
|---|---|---|---|---|---|
| 标准化 | 否 | 是（逐特征） | 否 | 否 | 几乎所有模型的基线预处理 |
| PCA 降维 | 是 | 否 | 是 | 是 | 特征压缩、可视化、去噪 |
| PCA 白化 | 是 | 是 | 是 | 可选 | 需要旋转坐标的线性模型、部分 ICA 前置 |
| ZCA 白化 | 是 | 是 | 否 | 否 | 图像 Patch 预处理、卷积网络输入 |
1.3 白化真正能带来的三个好处
第一是加速优化。白化之后损失函数的等高线接近正圆，梯度方向基本指向极值点，不需要靠动量或者自适应学习率去“猜”方向，收敛迭代次数往往能明显下降。这在早期小规模神经网络里是标配操作，现在虽然被批归一化抢了风头，但在一些只做浅层特征提取的场景里依然好用。
第二是让距离度量变得有意义。做 K-Means 聚类、做基于余弦相似度的检索、做 KNN 分类的时候，白化之后各个方向权重一致，不会出现某一个特征主导整个距离计算的情况。我之前做过一个图像检索的小项目，原始特征里有一个维度的方差是其他维度的几十倍，检索结果几乎完全被这一维绑架，做完 ZCA 白化之后召回质量肉眼可见地变好了。
第三是给稀疏编码和字典学习打底。这类算法假设输入特征是独立同分布的，而真实数据的强相关性会破坏这个假设，导致学出来的字典基向量互相冗余。Patch 白化是这类流水线里几乎是默认的一步。
还有一个不太常被提到但很实际的好处：白化会自动压低那些“看起来很重要其实只是常量偏移”的方向。有些特征维度在整个数据集上几乎不变，方差接近 0，标准化的时候除以标准差会直接炸掉，而白化通过正则项处理这些方向，反而更稳。
2. 数学内核：协方差矩阵与那个吓人的 -1/2 次方
白化的公式第一次看确实有点唬人，核心就两个矩阵运算：特征值分解和矩阵的 -1/2 次方。理解这两件事，剩下的就是排列组合。这一节我会尽量用几何直觉来解释，而不是一上来堆证明。
2.1 协方差矩阵到底描述了什么东西
把数据排成矩阵 X，形状是 n 行 m 列，n 是特征数，m 是样本数（注意这个约定，后面代码全按这个来）。先去均值，让每一行的均值是 0。然后协方差矩阵：
Sigma = (1 / m) * X @ X.T得到的 Sigma 是一个 n×n 的对称矩阵。对角线上的第 i 个元素是第 i 个特征的方差，非对角线上的元素 Sigma[i][j] 是第 i 个和第 j 个特征的协方差。协方差为正说明两个特征同向变化，为负说明反向变化，为 0 说明线性无关。
关键在于，这个矩阵完整地描述了数据在空间中的“形状”。你可以把它想象成椭球体的参数：特征向量决定椭球的轴指向哪里，特征值决定每根轴有多长。所谓去相关，就是把椭球旋转成轴对齐；所谓统一方差，就是把每根轴的长度都调成一样长。协方差矩阵是对称半正定的，所以特征值一定非负，这一点保证了后面开根号不会出问题（数值误差导致的极小负值要单独处理，这是后面会讲的坑）。
注意：这里用的是除以 m 而不是 m-1。两种约定在数学上都成立，只要全程保持一致就行，但如果你的白化矩阵是用 m-1 算的、后来又用 m 算的数据，就会出现微妙的偏差。我一般统一用 m，代码注释里写清楚，省得以后自己都忘了。
2.2 特征值分解的几何直觉
协方差矩阵是对称矩阵，对称矩阵可以做特征值分解：
Sigma = U @ diag(lambda) @ U.T其中 U 是正交矩阵，每一列是一个单位特征向量；lambda 是特征值向量。U 的列向量互相垂直，可以理解为一组新的坐标轴；lambda 里的第 i 个值，就是数据在 U 第 i 列这个方向上的方差。
这里有个很实用的结论：特征值越大的方向，数据越“铺得开”；特征值越小的方向，数据越“挤”。图像数据里，接近 0 的特征值往往对应噪声方向——一个方向上本来就没多少真实信号，稍微有点噪声它就显得很突出。白化要除以特征值的平方根，小特征值方向会被放大，这就是白化会把噪声“炸出来”的根本原因，也是必须加正则项的理由。
还有一个细节：特征向量的符号是不确定的。u和-u都是合法的特征向量，不同的库（NumPy、SciPy、MATLAB）可能给出不同的符号。如果你把白化矩阵存下来复用，或者做可视化对比，符号翻转会导致结果“看着不一样”。工程上这通常没关系，因为白化后的数据仍然满足协方差为单位阵，但如果你的下游流程对符号敏感（比如需要固定的基向量做可视化），记得手动统一符号。
2.3 亲手算一遍 Λ 的 -1/2 次方
矩阵的 -1/2 次方不是逐元素开根号，这一点新手最容易搞错。正确做法是：
Lambda_minus_half = diag(1 / sqrt(lambda_i + eps))也就是说，对每个特征值加一个很小的 eps，再取平方根的倒数，最后放回对角矩阵里。加上 eps 是为了防止某个特征值恰好是 0 或者极小的时候除零爆炸，同时也起到压缩噪声方向的作用——特征值远小于 eps 的方向，白化后系数接近于 0，等于把这个方向的信息直接压掉。
我拿一个 2×2 的小例子实算一遍，方便你对数量级有个感觉。假设：
Sigma = [[4, 3], [3, 4]]这个矩阵的特征值是 7 和 1，对应的单位特征向量是[1, 1]/sqrt(2)和[1, -1]/sqrt(2)。所以：
U = [[0.7071, 0.7071], [0.7071, -0.7071]] Lambda = diag(7, 1)取 eps = 0.1，则Lambda + eps*I = diag(7.1, 1.1)，开根号取倒数得到diag(0.3753, 0.9535)。PCA 白化矩阵就是：
W_pca = Lambda_minus_half @ U.T = [[0.2654, 0.2654], [0.6742, -0.6742]]ZCA 白化矩阵则是U @ Lambda_minus_half @ U.T，算出来是：
W_zca = [[0.6644, -0.0352], [-0.0352, 0.6644]]你可以注意到 ZCA 白化矩阵是对称的，而且对角线占主导，非对角项很小，这跟前面说的“ZCA 结果最接近原始数据”是对应的。PCA 白化矩阵则明显带有旋转，行向量的方向跟原始坐标轴已经不重合了。
2.4 PCA 白化和 ZCA 白化到底差在哪
从公式上看，两者只差一个 U：
- PCA 白化：
X_white = Lambda_minus_half @ U.T @ X - ZCA 白化：
X_white = U @ Lambda_minus_half @ U.T @ X
PCA 白化相当于先把数据旋转到主成分坐标系，再在每根轴上做缩放。结果是一个正圆形分布，但它是画在新坐标系里的——对图像来说，这意味着一张原本正常的照片被旋转到某个奇怪的角度，空间结构被彻底打乱，局部像素之间的邻接关系丢失了。
ZCA 白化相当于“先旋转过去缩放，再旋转回来”。最终数据依然分布在原来的坐标轴方向，只是椭球被掰成了球。对图像来说，ZCA 之后的图看起来还是那张图，但对比度和纹理质感会发生变化——通常会显得更“平”、更灰、细节更锐利甚至带点噪声感。
所以在图像预处理里，ZCA 是绝对主流的选择，PCA 白化基本只出现在教学推导里。而在需要提取独立成分或者做信号分离的场景，PCA 白化反而更常见，因为旋转后的坐标更接近独立源的方向。
提示：如果你只是想让线性模型的优化变快，并不关心结果的坐标方向，两者随便选一个都行，效果差别很小。但只要你涉及数据的空间结构（图像、时序、语音频谱），就该果断用 ZCA。
3. 从零手撸一遍：NumPy 实现与验证
看懂公式和写对代码之间隔着一段距离。这一节我把两种实现完整写出来，并且给出一个“体检”方法，让你能自己确认结果对不对。我自己第一次写白化的时候没做验证，结果因为搞错了数据维度约定，白化完的协方差矩阵根本不是单位阵，排查了大半天才发现是矩阵乘序搞反了。
3.1 中心化这一步为什么绝对不能省
很多人以为协方差矩阵计算里已经包含了去均值，所以可以直接从原始数据出发。数学上协方差确实是这么定义的，但在实际实现里，你必须显式地先把数据减掉均值，因为白化变换矩阵是要拿去作用在数据上的：X_white = W @ X。如果 X 没有中心化，那么cov(W @ X_centered) = I成立，但cov(W @ X)就不成立了——均值带来的偏移会让协方差多出一项。
更直观地说，白化的几何含义是把椭球掰成球，而椭球是以数据中心为原点的。如果数据整体偏在一边，你就不是在“掰椭球”，而是在“掰一个偏心的椭球”，结果自然不对。
代码上就一行：
X = X - X.mean(axis=1, keepdims=True)axis=1表示沿样本方向求均值，keepdims=True保证广播的维度对得上。这个参数我见过太多人写错，写成axis=0之后就变成对每个样本求均值了，那是对单张图像做逐样本归一化，完全是另一回事。
注意：图像数据还有一层约定问题。“逐样本减均值”和“逐像素减全数据集均值”是两个不同的操作。Patch 白化通常用前者（每个 patch 单独减自己的均值），全图白化通常用后者。弄混了会导致白化效果完全不一样，后面第 4 节会详细展开。
3.2 特征值分解版本的完整实现
import numpy as np def whiten_eig(X, eps=1e-5, mode='zca'): """ X: shape (n_features, n_samples)，未中心化 eps: 正则项，防止小特征值导致数值爆炸 mode: 'zca' 或 'pca' 返回: 白化矩阵 W (n_features, n_features) 与中心化后的均值 """ # 1. 中心化 mu = X.mean(axis=1, keepdims=True) Xc = X - mu # 2. 协方差矩阵 m = Xc.shape[1] Sigma = (Xc @ Xc.T) / m # 3. 特征值分解（eigh 专用于对称矩阵，比 eig 更稳更快） lam, U = np.linalg.eigh(Sigma) # 4. 数值保护：把过小的特征值抬到 eps lam = np.maximum(lam, eps) # 5. 构造 Lambda^{-1/2} D = np.diag(1.0 / np.sqrt(lam)) # 6. 组装白化矩阵 if mode == 'pca': W = D @ U.T elif mode == 'zca': W = U @ D @ U.T else: raise ValueError("mode 只能是 'pca' 或 'zca'") return W, mu几个细节值得单独说。np.linalg.eigh是专门给对称矩阵用的，它只返回实数特征值，而且内部算法利用了对称性，速度和数值稳定性都比通用的eig好。如果你的协方差矩阵是实对称的（一定是），就没理由用eig。
np.maximum(lam, eps)这行是在做“软截断”：所有小于 eps 的特征值都被抬到 eps，对应方向的白化系数就是1/sqrt(eps)，而不是无穷大。这个操作和直接lam + eps的效果不同——加法会让所有特征值都变大一点，而截断只影响小特征值。实践中两种都有人用，截断更激进一些，对噪声方向的压制更彻底。
还有一点，lam从eigh出来是升序排列的，所以lam[0]是最小的特征值。如果你想做降维版白化（丢掉尾部主成分），直接切lam[-k:]和U[:, -k:]就行，记得顺序别搞反。
3.3 SVD 版本：更通用也更稳的写法
当特征数 n 远大于样本数 m 的时候，协方差矩阵是 n×n 的，可能大到内存放不下。比如 n = 10000、m = 500，协方差矩阵有 1 亿个元素，白白算了一大半的零空间。这种情况下直接用 SVD 更划算。
关键结论是：对中心化后的数据做 SVD，Xc = U_svd @ diag(s) @ Vt，那么协方差矩阵就是(1/m) * U_svd @ diag(s^2) @ U_svd.T。也就是说，SVD 的左奇异向量就是协方差的特征向量，奇异值的平方除以 m 就是特征值。
def whiten_svd(X, eps=1e-5, mode='zca'): mu = X.mean(axis=1, keepdims=True) Xc = X - mu m = Xc.shape[1] # 用 full_matrices=False，只算 min(n, m) 个奇异向量 U, s, Vt = np.linalg.svd(Xc, full_matrices=False) # 特征值 = s^2 / m lam = (s ** 2) / m lam = np.maximum(lam, eps) D = np.diag(1.0 / np.sqrt(lam)) if mode == 'pca': W = D @ U.T else: W = U @ D @ U.T return W, mu用 SVD 的时候有个额外的坑：如果 m < n，那么 s 的长度只有 m，U 只有 m 列，得到的 W 是 m×n 的矩形矩阵，白化后的数据维度会被压到 m 维。这其实是好事（相当于自动降维了），但你要清楚自己在做什么。如果不想降维，就得走full_matrices=True的路径，代价是计算量大很多。我个人的经验是，除非明确知道 n 不大，否则优先用 SVD 版本，并且接受降维这个副作用。
另外，SVD 版本天然不会产生负特征值，而特征值分解版本因为浮点误差可能出现极小的负数（比如 -1e-16），开根号直接变 NaN。np.maximum(lam, eps)这一行同时也把这个坑填了，所以无论哪个版本我都会保留它。
3.4 怎么验证自己写对了：协方差体检法
写完代码不要急着往流程里塞，先做一次体检。构造一批有明显相关性的随机数据，白化之后检查协方差矩阵是不是接近单位阵：
rng = np.random.default_rng(42) # 构造一个相关性很强的二维数据 A = rng.normal(size=(2, 5000)) L = np.array([[1.0, 0.0], [0.9, 0.44]]) # 制造强相关 X = L @ A W, mu = whiten_eig(X, eps=1e-5, mode='zca') Xw = W @ (X - mu) cov_after = (Xw @ Xw.T) / Xw.shape[1] print(np.round(cov_after, 4))如果实现正确，打印出来应该非常接近[[1, 0], [0, 1]]。如果非对角项还是很大，说明去相关没做对，八成是矩阵乘序搞反了，或者忘了中心化。如果对角线偏离 1 比较明显，检查一下 eps 是不是太大——eps 加得越多，白化程度就越弱，方差会被压到略小于 1。
还有一个更直观的验证方式：把白化前后的数据散点图画出来。白化前是斜椭圆，白化后应该是一个正圆，而且 ZCA 的结果看上去跟原始数据的点云“姿态”最像。可视化验证我强烈建议做一次，很多东西一眼就能看出问题，比盯数字快得多。
4. 图像场景：Patch 白化才是主流做法
前面讲的都是通用的表格数据白化。一旦进入图像领域，情况会复杂一些，最核心的变化是不再对整张图做白化，而是对从图上抠出来的小方块（patch）做白化。
4.1 为什么不直接对整张图做白化
一张 512×512 的彩色图像，展开成向量是 786432 维。对整图做白化意味着要算一个 78 万乘 78 万的协方差矩阵，元素数量是 6×10^11 量级，没有任何一台机器能直接吃下。就算用 SVD 绕开协方差矩阵，SVD 本身的复杂度也是 O(n·m²)，样本数上千之后就完全不可接受了。
更根本的原因在于，图像的自然统计规律是局部的。相邻像素之间强相关，相隔几百个像素的两个点基本没什么关系。用一个全局白化矩阵去处理所有像素对之间的关系，既浪费算力，也不符合图像的统计特性。
Patch 白化的思路就很自然了：把图像切成 6×6 或 8×8 的小块，认为所有 patch 共享同一套局部统计规律，于是从全数据集里采样大量的 patch，学一个小的白化矩阵（8×8×3 = 192 维的话，协方差矩阵只有 192×192，非常轻量），然后把这个矩阵作用到每一个 patch 上。这一步在经典的字典学习、稀疏编码、以及早期的单层特征学习流水线里是标配。
4.2 Patch 白化的完整流程与参数选择
我按实际落地顺序说一遍，每一步都交代清楚为什么。
第一步是采样 patch。从训练集所有图像里随机抠出大量 patch，通常 100000 到 400000 个。数量少了统计量不准，多了训练开销大。我一般先用 200000 打底，如果白化后的可视化结果不稳定（每次运行差异大），说明采样量不够。
第二步是逐 patch 归一化。对每个 patch，减掉自己的均值，这一步是必须的，因为图像的绝对亮度几乎不携带结构性信息，而且不同图像的曝光差异会让统计量严重偏移。然后是可选的一步：除以自己的标准差。这一步是在做局部对比度归一化，能不能提升效果取决于下游任务，我建议先试不做，效果好再加——因为对比度本身是有信息量的，粗暴归一化可能把有用信号一起丢掉。
第三步是计算协方差并求 ZCA 矩阵。这里的维度是 patch 展开后的长度，比如 8×8 灰度就是 64 维。
第四步是处理 eps。这是最容易翻车的地方。eps 的取值必须跟像素数值尺度匹配。如果你把像素归一化到接近 0 均值、1 方差的尺度，eps 取 0.01 到 0.1 是常见范围；如果像素还保持在 0 到 255 的原始尺度，同样的 eps 相当于几乎没有正则效果，白化会直接把高频噪声全部放大。我看到过好几个项目的白化结果图像上全是雪花点，最后查出来就是 eps 和像素尺度不匹配。
第五步是把 W 存下来，作用到训练集、验证集、测试集的每一个 patch 上。注意这里用的是同一套 W，绝对不能对每个集合重新算一遍。
| 参数 | 常见取值 | 影响 | 我踩过的坑 |
|---|---|---|---|
| patch 尺寸 | 6×6 或 8×8 | 越大越能捕捉结构，但维度暴涨 | 试过 12×12，64 维变 144 维，统计量需要更多样本才准 |
| 采样数量 | 10 万 ~ 40 万 | 太少统计量有偏，太多浪费时间 | 用 2 万采样时每次运行结果差异很大，白化矩阵不稳定 |
| eps | 0.01 ~ 0.1（归一化尺度下） | 太小放大噪声，太大白化不彻底 | 像素值保持 0-255 时沿用 0.1，结果整幅图全是噪点 |
| 是否逐 patch 减均值 | 建议开启 | 消除亮度偏移 | 不开的话白化矩阵被亮度方差主导，等于没白化 |
| 是否逐 patch 除标准差 | 视任务而定 | 局部对比度归一化 | 一开始就开了，结果纹理分类任务精度反而降了 |
4.3 皮肤病变图像这类医学数据上的批处理实践
我拿皮肤镜图像数据集举一个具体的例子，这类数据（比如公开的 ISIC 系列）有几个很典型的特征：图像尺寸不统一、光照条件差异大、四周经常有黑色边框或者彩色标记尺。这些特点会让白化前后的处理顺序变得很重要。
我的处理顺序是：先做几何预处理，再做数值归一化，最后做 Patch 白化。
几何预处理包括统一 resize 到一个固定尺寸（比如 256×256），以及裁掉四周的黑色边框。边框如果不裁，大量采样到的 patch 全是纯黑，会让协方差矩阵的统计量严重偏向零方差方向，白化矩阵就废了。彩色标记尺也是同理，最好在处理前裁掉或者标注出来排除。
数值归一化是把像素从 0-255 映射到 0 附近的尺度。这里有两个选择：除以 255 映射到 [0,1]，然后再减全数据集均值；或者逐图像减均值除标准差。医学图像光照不均很严重，我倾向于用全数据集的均值方差来做，这样能保留图像之间的亮度差异信息，同时尺度也被统一了。
Patch 白化按上一节的流程走，patch 尺寸取 8×8，采样 20 万个。这里有个额外技巧：采样的时候优先从病变区域内采样。如果病灶只占图像的一小块，随机采样会大量采到正常皮肤，白化矩阵主要拟合的是正常皮肤的统计规律，病灶区域的纹理反而被过度压制。简单的做法是用分割掩码辅助采样，如果没有掩码，退而求其次可以在图像中心区域加大采样权重。
处理完之后一定要做可视化检查。我一般会随机抽 20 个 patch，把白化前后的图并排拼出来看。健康的白化结果应该是：仍然能看出原始的纹理结构，但对比度更均匀，不再有明显的明暗梯度；不应该出现大片纯色块（说明白化过度）或密集的孤立噪点（说明 eps 太小）。
4.4 算力不够时的几种降级方案
不是每个项目都有充足的算力跑完整的 Patch 白化。分享几种我用过的降级方案，按代价从低到高排列。
方案一：只做标准化，跳过白化。如果你的模型是深度卷积网络，坦白说白化带来的收益可能很小，因为卷积层本身就在学习局部相关结构，批归一化也在做类似的事。这种情况下老老实实做标准化就够了，别为了用白化而用白化。
方案二：降低 patch 维度。把 8×8 灰度降到 6×6，或者对彩色图像先转灰度做白化、再把彩色通道单独处理。维度从 192 降到 36，计算量差了将近 30 倍。
方案三：随机投影降维后再白化。先用一个随机矩阵把 patch 投影到 64 维左右，在这个低维空间里学白化矩阵，再组合成一个复合变换。Johnson-Lindenstrauss 引理保证了随机投影近似保持距离结构，实践中效果损失通常不大。
方案四：低秩近似白化。只保留累计方差贡献 90% 到 99% 的主成分来做白化，尾部方向直接置零。这既降了计算量，又顺便起到了降噪的作用，我个人比较推荐这一条。
方案五：固定一组统计量长期复用。如果你的数据分布不会剧烈变化，花一次代价把白化矩阵算出来存成文件，之后所有实验都复用这一个矩阵。这在团队协作里特别有用，所有人都用同一套预处理，实验可比性大大提升。
5. 接进训练流水线：顺序、复用与冲突
代码写对了只是第一步，把它塞进真实的训练流程里还有一堆工程问题要处理。这一节讲的都是我在项目里实际踩过的坑，跟数学无关，但翻车概率一点不低。
5.1 统计量必须“冻结”给验证和测试用
这是数据预处理里最经典的一条铁律，但每年都还是有人犯：任何依赖数据集统计量的预处理，统计量只能从训练集算，然后原样应用到验证集和测试集。
原因很直白。你在训练集上算出的均值、标准差、白化矩阵，代表的是训练数据的分布。验证集和测试集的角色是模拟“未来遇到的新数据”，如果你让它们参与统计量的计算，就等于把测试集的信息泄露进了预处理环节，评估结果会虚高。这个问题在标准化上还算温和，在白化上会被放大很多——因为白化矩阵对特征值非常敏感，测试集里多几张异常图像，特征值就能偏出明显一截，白化效果直接变形。
实现上，我的习惯是把预处理拆成fit和transform两个阶段。fit只在训练集上跑一次，把均值、白化矩阵、以及任何其他统计量存成一个 artifact 文件；transform只加载这个文件做纯变换，不重新计算任何东西。这样从代码层面就杜绝了泄露的可能。
注意：如果数据量很小，或者你有很强的先验知识，也可以考虑用固定的理论值代替统计值（比如图像就假设均值是 0.5），这样能彻底消除泄露风险，代价是与数据分布的匹配度差一些。
5.2 和白化、批归一化、数据增强的搭配顺序
先说批归一化。批归一化做的事情和标准化很像：在网络的每一层，对每个通道做减均值除标准差。它在一定程度上也起到了减轻内部协变量偏移的作用，跟白化的目标有重叠。两者叠加使用不会出错，但要做好心理准备：收益可能是冗余的。
我的经验法则是这样：如果第一层就是卷积层，且网络深度超过 10 层，那就用批归一化，输入只做标准化，白化可以省掉；如果是浅层网络、线性模型、或者基于手工特征的流水线，白化更值得投入。两者都开的场景也存在（比如输入的 Patch 白化 + 中间层的批归一化），但那是两个不同层级的事情，不算冲突。
再讲数据增强的顺序。白化是线性变换，对翻转、旋转这类几何变换的影响相对温和，所以先把增强做完再白化通常没问题。但颜色抖动就麻烦了：颜色抖动会改变像素值的分布，而白化矩阵是在原始分布上学的，顺序搞反会让白化后的分布偏离预期。我的做法是固定一个顺序：几何增强 → 颜色抖动 → 数值归一化 → 白化，并且把白化当成网络里的一个固定线性层来看待，参数冻结不参与训练。
还有一个容易忽略的点：如果你的增强里包含随机裁剪，那裁剪出来的 patch 和白化时用的 patch 尺寸如果不一致，就会出问题。我一般统一到同一个尺寸，或者至少让裁剪尺寸是白化 patch 尺寸的整数倍。
5.3 什么时候应该果断放弃白化
有些场景白化不但没有好处，反而会拖后腿，早点识别出来能省很多时间。
数据本身已经接近各向同性的时候。比如经过精心设计的特征，各维度方差本来就差不多，相关性也弱，白化能带来的变化微乎其微，纯属浪费时间。判断方法很简单：算一下协方差矩阵的条件数，如果最大特征值和最小特征值的比值不到 10，基本就没必要白化了。
下游任务依赖绝对幅度信息的时候。比如做亮度回归、做曝光估计、做物理量预测。白化把幅度信息全部抹平了，这类任务会直接崩掉。
数据维度远小于样本数、且模型对相关性不敏感的时候。决策树、梯度提升树这类模型，特征相关性对它们的影响很小，白化带来的收益很难覆盖实现和调试成本。
信号本身非常稀疏的时候。白化会把能量分散到各个方向上，而如果下游用的是 L1 正则、稀疏编码之类的技术，你其实希望数据保持稀疏性。这两个目标是打架的，硬凑在一起往往两边都不讨好。
6. 踩坑实录：常见问题与排查速查表
这一节我按“症状”来组织，你遇到什么问题直接对号入座就行。
6.1 白化后的图像发灰、出现雪花噪点
发灰是最常见也最正常的现象。原因是白化把各个方向的方差都拉平了，低频能量（对应大的特征值）被大幅压缩，高频能量（对应小的特征值）被相对放大，视觉上就表现为对比度下降、细节变锐、整体发灰。这本身不是 bug，是白化的固有特性。如果你觉得灰得过分，说明保留的主成分太多，可以考虑只保留累计方差 95% 的方向。
雪花噪点则是实打实的问题，几乎一定是因为 eps 太小。噪点来源于特征值极小的方向——那里几乎没有真实信号，全是噪声，白化除以一个极小的数，噪声就被放大到和信号一个量级。解决办法就是加大 eps，或者直接丢弃这些方向。判断 eps 是否合适的方法是：把特征值排序画出来，看看在多小的量级上开始进入“平台区”，eps 设在平台区起点附近比较合理。
还有一种更隐蔽的情况：棋盘格伪影。如果 patch 尺寸和图像内容的空间频率不匹配，或者你在做 patch 白化时没有正确处理边界（patch 之间有重叠却没有做加权融合），重建图像就会出现规律的网格状纹理。检查方法是看伪影的周期，如果恰好等于 patch 尺寸，那基本就是这个原因。
6.2 NaN、除零和数值爆炸
这类问题几乎都出在数值细节上，我列几个具体的排查点。
协方差矩阵出现负特征值。对称半正定矩阵理论上特征值非负，但浮点运算的误差会造出 -1e-16 这样的值。一旦对这个值开平方根，结果是 NaN，整个流程全废。np.linalg.eigh通常比eig好一些，但仍不能保证。np.maximum(lam, eps)这一行就是专门防这个的，务必保留。
eps 加对了但还没加在正确的位置。有一种错误写法是1/sqrt(lam) + eps，另一种是1/(sqrt(lam) + eps)，两者都不对。正确的形式是1/sqrt(lam + eps)，正则项要加在根号里面。这个细节很容易手滑写错，而且错了之后不会报错，只是白化程度不对，非常隐蔽。
输入数据里有 Inf 或 NaN。如果上游数据清洗没做干净，整个协方差矩阵会被污染，白化结果会莫名其妙。建议在fit阶段加一句assert np.isfinite(X).all()，成本很低但能省很多排查时间。
大矩阵求逆的精度损失。如果你用的是显式求逆的写法，n 比较大的时候精度会掉得很快。正确做法是用np.linalg.solve之类的分解方法，或者干脆走 SVD 路线。我在 n 超过 2000 的场合基本只用 SVD 版本。
6.3 效果反而变差的三类典型误用
误用一：对每个样本单独做白化。有人会下意识地对每一张图、每一行数据单独算协方差再白化。这样做的结果是每个样本被归一化成了完全一样的形状，样本之间的差异信息全丢了。白化是数据集层面的操作，不是样本层面的。
误用二：在验证集上重新 fit 白化矩阵。前面说过，这是数据泄露，会让离线评估结果好看但在线表现拉胯。我见过一个项目离线 AUC 0.92、上线只有 0.78，排查了很久才发现预处理里对验证集重新算了一遍统计量。
误用三：白化后再做 PCA 降维。这两个操作的顺序会影响结果。正确顺序是 PCA 降维 → 白化，先降到目标维度再统一方差。反过来做的话，白化会先把能量抹平，PCA 就找不出真正的主方向了，等于白降。
6.4 常见问题速查表
| 症状 | 最可能的原因 | 排查动作 | 修复方式 |
|---|---|---|---|
| 白化后协方差不是单位阵 | 忘记去均值 / 矩阵乘序错 | 打印白化后协方差 | 显式减均值，检查W @ Xc顺序 |
| 出现 NaN | 负特征值开根号 | 检查lam.min() | 用np.maximum(lam, eps) |
| 图像全是雪花点 | eps 太小或与像素尺度不匹配 | 对比 eps 与特征值量级 | 先归一化数据，eps 取 0.01~0.1 |
| 图像发灰很严重 | 白化本身导致，或保留成分太多 | 看累计方差曲线 | 保留 95% 主成分，尾部置零 |
| 棋盘状伪影 | patch 重叠未融合 / 尺寸不匹配 | 测量伪影周期 | 加窗函数融合，或调整 patch 尺寸 |
| 离线好上线差 | 验证集参与统计量计算 | 检查 fit/transform 分离 | 统计量只在训练集算，存盘复用 |
| 训练没变快反而更慢 | 数据本身已接近各向同性 | 算协方差条件数 | 条件数小于 10 就跳过白化 |
| ZCA 结果看不出图像结构 | 用了 PCA 白化 | 检查是否带了 U 的前后旋转 | 改用W = U @ D @ U.T |
我自己在实际项目里最常出的两个问题，一个是 eps 和像素尺度不匹配，另一个是验证集偷跑了统计量。前者靠可视化检查最容易发现，后者靠把预处理代码拆成 fit 和 transform 两个函数来根治。这两个习惯养起来之后，白化这个环节基本就没什么能翻车的地方了。
如果你的数据维度特别高、样本又不多，我最后再分享一个小技巧：先做一次随机投影降维再白化，既能省算力，又能顺便起到一点降噪作用，代价是白化矩阵不再是最优的，但对绝大多数任务来说差别小到可以忽略。
