news 2026/9/27 2:14:39

Eckart-Young-Mirsky 定理

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Eckart-Young-Mirsky 定理

以下是对图片中Eckart-Young-Mirsky 定理(谱范数版本)的完整、透彻讲解。图片展示的是该定理在2-范数(谱范数)下的形式,即矩阵的最佳低秩逼近问题。我会先陈述定理,然后逐部分解释图片中的内容,并将所有公式用标准的 LaTeX 格式重新呈现,便于阅读。

定理陈述

设是一个矩阵,其奇异值分解(SVD)为

​,

其中 p=min⁡(m,n) ,奇异值满足 σ1≥σ2≥⋯≥σp≥0 ,U 和 V 的列分别是左、右奇异向量(单位正交)。

Eckart-Young-Mirsky 定理(谱范数版本):

,

并且最小值由截断 SVD 达到:

这里的是谱范数(算子范数),即矩阵的最大奇异值。

图片内容逐部分解释

1. SVD 分解与截断逼近(上界)

图片左侧写出了矩阵的完整 SVD:

截断前 R 项得到低秩逼近:

误差计算(上界证明):

用矩阵形式写成:

这是一个对角矩阵(除前 R 行/列全零外),乘以酉矩阵 U 和不改变奇异值。因此误差矩阵的奇异值恰好是,最大奇异值是​,故谱范数

这证明了上界:存在一个秩至多 R R R 的矩阵使逼近误差等于。

2. 下界证明(关键部分,图片右下黄色框)

要证明定理的完备性,还需说明任何秩 ≤ R 的矩阵 A′ 都满足

图片用一个极小化问题巧妙地给出了下界:

考虑子空间(由前 R+1 个右奇异向量张成),维度为 R+1

对任意秩 ≤ R 的矩阵 B (这里用 B 表示任意的 A′ ),由秩-零度定理,B 的像空间维度 ≤ R ,因此限制到 S 上的的像维度 ≤ R ,从而其核维度

于是存在单位向量 x∈S ,,使得 Bx=0

此时

因此谱范数

关键是:对任意这样的 B ,总存在这样的 x∈S ,,使上式成立。要得到对所有 B 都成立的统一下界,我们取最坏情况,即​ 在单位球面上的最小值:

任意 x∈S ,可写成,,则

图片中正是求这个最小值:

约束

由于,目标函数在单位球上的最小值在“最弱方向”取得:取,其余,得到最小值​.

因此,对任意 B (秩 ≤ R ),总有

这就证明了下界。

总结

  • 上界:截断 SVD 给出误差恰好​。
  • 下界:利用前 R+1 个右奇异向量张成的子空间和秩-零度定理,证明任何低秩逼近误差至少​。

两者结合,截断 SVD 正是谱范数意义下最佳的秩 ≤ R 逼近,误差精确为第 R+1 个奇异值。

(注:存在另一个版本用 Frobenius 范数​,此时最佳误差是,证明更直接,但图片展示的是谱范数版本。)

这个证明非常经典且精炼,子空间维数比秩多 1 是关键,使得总能找到一个方向被低秩矩阵“抹平”,而在该方向上 A 的增益至少是​。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/24 3:54:54

本地部署管理助手 Grocy 并实现外部访问

Grocy 是一款一个自托管的 PHP 网络应用程序,可用于记录物品信息并根据个性化需求进行管理。支持购物清单、家庭用品库存、日常任务及食谱管理,覆盖家庭生活的多个方面,提升组织效率。方便用户清理家庭杂物,避免使用过期物品。本文…

作者头像 李华
网站建设 2026/9/26 22:48:47

干法刻蚀机的微观探索:3D动画如何揭示工艺参数的影响

半导体行业中,干法刻蚀机一直是实现高精度微纳米结构的核心设备。其操作的复杂性和效果的挠性,让业界对其工艺参数的精准控制提出了更高的要求。本文将从工艺参数的角度,深入探讨这一关键设备的工作原理,并阐述3D动画如何在技术展…

作者头像 李华
网站建设 2026/9/23 16:18:02

原圈科技AI市场分析指南:实时洞察,决胜2026!

原圈科技在AI市场分析领域表现突出,本指南将深入探讨如何利用AI构建B2B企业"情报中心"。从AI驱动战略制定、部署智能体进行7x24实时监控,到挖掘深度洞察和建立评估闭环,原圈科技的集成化平台将助您告别信息过载与洞察延迟&#xff…

作者头像 李华
网站建设 2026/9/24 23:12:29

FTDI 这个驱动无法安装

Windows 无法加载这个硬件的设备驱动程序。驱动程序可能已损坏或不见了。 (代码 39) {损坏的映像} %hs 没有被指定在 Windows 上运行,或者它包含错误。请尝试使用原始安装介质重新安装程序,或联系你的系统管理员或软件供应商以获取支持。错误状态 0x FTDI 这个驱动无法安装 详…

作者头像 李华