引言
在流形学习和非线性降维领域，局部线性嵌入（Locally Linear Embedding, LLE）是一个经典的无监督方法，它假设每个数据点都可以由其邻域内的点线性表示，从而在低维空间中保持这种邻域重构关系。邻域保持嵌入（Neighborhood Preserving Embedding, NPE）是LLE的线性化版本，它通过求解一个显式的线性投影矩阵，使得降维后的数据尽可能保留原始空间中的邻域重构权重。
相比LLE的非线性映射，NPE的优势在于获得了全局线性投影，便于处理新样本（out-of-sample），同时计算效率更高，常用于人脸识别、图像检索、生物信息学等任务。
NPE的核心原理
NPE的基本思想可以分为两个阶段：
邻域重构权重计算：
对于每个样本 ( x_i )，找到其k个最近邻（或同类邻域），然后求解一组权重 ( w_{ij} )，使得 ( x_i \approx \sum_j w_{ij} x_j )，且满足 ( \sum_j w_{ij} = 1 )。
这可以通过最小化局部重构误差来实现：
[ \min |\mathbf{x}i - \sum_j w{ij} \mathbf{x}_j|^2 ]
得到解析解：( \mathbf{w} = (C^{-1}\mathbf{1}) / (\mathbf{1}^T C^{-1}\mathbf{1}) )，其中C是局部协方差矩阵。
保持
