特征值与特征向量的含义
Hessian 系列:定义与性质 → 矩阵定性 → 本篇(特征值与特征向量)→ 图像处理中的 Hessian 矩阵
1. 基本关系
Hessian 矩阵 H 是对称矩阵,可以做正交对角化:
H = QΛQᵀ = Σ λᵢ · vᵢvᵢᵀ 其中: λᵢ = 第 i 个特征值 vᵢ = 第 i 个特征向量(单位向量)- 特征值:这个方向上曲率有多大(陡不陡)
- 特征向量:这个方向在哪(指向哪个方向)
成对使用,缺一不可。就像说"3公里外有家店"——3公里是距离(特征值),但你得知道往哪走(特征向量)才能找到。
2. 特征值的含义
2.1 正负号 → 凹凸方向
- λ > 0:这个方向上是碗形(开口朝上)→ 往这个方向走函数值会增大
- λ < 0:这个方向上是倒碗形(开口朝下)→ 往这个方向走函数值会减小
λ₁=3(正,谷): λ₂=-2(负,峰): \ · / /\ \ / / \ \_____/ · ‾‾‾‾‾ 往任一边走 f 都增大 往任一边走 f 都减小2.2 绝对值大小 → 曲率强度
- |λ| 大 → 这个方向上曲率大 → 碗壁陡,函数值变化快,从最低点稍微偏一点值就飙升 → 看起来窄
- |λ| 小 → 这个方向上曲率小 → 碗壁平缓,函数值变化慢 → 看起来宽
λ大(=10)的方向: λ小(=1)的方向: | | \ / |· | 窄而陡 \ · / 宽而平缓 | | \ / ‾‾‾‾‾椭圆碗的俯视图(等高线):
λ大方向(窄) ↕ ╔═══╗ ║ · ║ ╚═══╝ ↔ λ小方向(宽)3. 特征向量的含义 → 方向
特征值告诉你曲率有多大,特征向量告诉你这个曲率在哪个方向上。
3.1 具体例子
H = [[5, 2], [2, 2]]
四个数摆在这,看不出来哪个方向陡。
算特征值和特征向量:
- λ₁ = 1,v₁ = [1, -2] 方向 → 平缓方向
- λ₂ = 6,v₂ = [2, 1] 方向 → 陡峭方向
v₂=[2,1],λ₂=6(陡) ↗ · ↘ v₁=[1,-2],λ₁=1(平缓)光有特征值没有特征向量,你知道有个方向很陡但不知道是哪个方向。就像有人说"前面有条路很陡"但没指给你看。
3.2 正定矩阵的特征向量 → 碗的长短轴方向
对于正定矩阵,特征向量描述的是碗的"长短轴"方向。
λ₁=1, λ₂=4 的正定碗,俯视等高线: λ₂=4 方向(v₂,曲率大,陡,窄) ↕ ╔═══╗ ║ · ║ ╚═══╝ ↔ λ₁=1 方向(v₁,曲率小,平缓,宽)4. 特征值的组合与结构分类
4.1 二维情况
设 |λ₁| ≤ |λ₂|(图像里亮=像素值大):
| 情况 | λ₁ | λ₂ | 结构类型 | 图像含义 |
|---|---|---|---|---|
| 两正 | + | + | 碗形(极小) | 暗blob |
| 两负 | - | - | 倒碗(极大) | 亮blob |
| 一正一负 | + | - | 马鞍形 | 角/交叉 |
| λ₁≈0, λ₂>>0 | ≈0 | +大 | 柱面(谷) | 暗线/暗管状 |
| λ₁≈0, λ₂<<0 | ≈0 | -大 | 柱面(脊) | 亮线/亮管状 |
| 都≈0 | ≈0 | ≈0 | 平坦 | 均匀区域 |
注意管状这两行别记反:亮线的横截面是个峰(像素值中间高两边低),二阶导为负,所以对应 λ₂<<0;暗线反过来是谷,λ₂>>0。后面 Frangi 滤波器"只保留 λ₂≤0"就是在挑亮管状结构,见图像处理中的 Hessian 矩阵。
单个特征值只管一个方向;把所有方向合起来下整体结论(正定/负定/不定),判定方法见矩阵定性。
4.2 三维情况
设 λ₁ ≤ λ₂ ≤ λ₃:
| 情况 | 几何含义 | 应用 |
|---|---|---|
| λ₁≈λ₂≈0, λ₃<<0 | 板状(plate) | 肺叶、皮肤表面 |
| λ₁≈0, λ₂,λ₃<<0 | 管状(tube) | 血管、支气管 |
| λ₁,λ₂,λ₃<<0 | 球状(blob) | 结节、肿瘤 |
| λ₁<<0, λ₃>>0 | 鞍点 | 复杂结构 |
| 全部≈0 | 均匀区域 | 背景 |
5. 条件数
κ ( H ) = λ m a x λ m i n \kappa(H) = \frac{\lambda_{max}}{\lambda_{min}}κ(H)=λminλmax
- κ ≈ 1:各方向曲率均匀,“圆形碗”,优化容易
- κ >> 1:各方向曲率悬殊,“狭长谷”,优化困难(梯度下降会振荡)
从等高线看最直观:
κ ≈ 1(圆形碗): κ >> 1(狭长谷): ______ ________________ / \ / \ | · | | · | \________/ \__________________/ 各方向差不多陡 长轴方向平缓(λ小),短轴方向陡(λ大) 优化容易 梯度下降在两壁之间之字形振荡6. 实际用途
优化中:沿着最小特征值方向走最难收敛,沿最大特征值方向最容易——这就是条件数大时梯度下降振荡的原因
牛顿法中:H⁻¹ = Σ(1/λᵢ)vᵢvᵢᵀ,自动在陡的方向(λ大)缩小步长,平缓方向(λ小)放大步长
PCA 降维:数据协方差矩阵(半正定)的最大特征值对应的特征向量,就是数据方差最大(信息最多)的方向