杭州紫金港培训学校(紫金港专升本)杭州紫金港培训学校(紫金港专升本)
同等学力申硕控制科学与工程学科综合考前辅导矩阵理论第 6 节 / 共 32 节约 30 分钟免费

矩阵理论(五):范数与矩阵分解

对应矩阵理论「五、矩阵分析」前两条:向量范数与矩阵范数(范数公理、常用范数、相容性、诱导范数与谱半径),矩阵分解(三角分解、QR 分解、满秩分解、奇异值分解与谱分解)。

本节考点:向量范数矩阵范数与谱半径三角分解与QR分解满秩分解与奇异值分解

本节导读

这一节对应矩阵理论大纲「五、矩阵分析」的前两条:「向量范数与矩阵范数」「矩阵分解」。范数给向量和矩阵规定「大小」,是讨论矩阵序列收敛、矩阵级数和误差估计的工具;矩阵分解把一个矩阵写成几个结构简单的矩阵之积,是数值计算和控制系统分析的常用手段。

学完要做到:会验证范数公理,算常用的向量范数和矩阵范数;知道诱导范数与谱半径的关系;会做 QR 分解、满秩分解,会求奇异值。

本节记号:∥⋅∥\lVert\cdot\rVert∥⋅∥ 表示范数;ρ(A)\rho(A)ρ(A) 是谱半径(特征值模的最大值);AHA^{\mathrm H}AH 是共轭转置(实矩阵就是 ATA^{\mathrm T}AT);σi\sigma_iσi​ 是奇异值;QQQ 是列正交(正交)矩阵,RRR 是上三角矩阵;三角分解 A=LUA=LUA=LU 里 LLL、UUU 是下、上三角矩阵,奇异值分解 A=UΣVHA=U\Sigma V^{\mathrm H}A=UΣVH 里 UUU、VVV 是酉矩阵——同一个 UUU 在本节有两种含义。

向量范数

线性空间上的实值函数 ∥x∥\lVert x\rVert∥x∥ 满足三条公理就叫向量范数:

  1. 正定性:∥x∥≥0\lVert x\rVert\ge 0∥x∥≥0,且 ∥x∥=0⇔x=0\lVert x\rVert=0\Leftrightarrow x=0∥x∥=0⇔x=0;
  2. 齐次性:∥kx∥=∣k∣ ∥x∥\lVert kx\rVert=\lvert k\rvert\,\lVert x\rVert∥kx∥=∣k∣∥x∥;
  3. 三角不等式:∥x+y∥≤∥x∥+∥y∥\lVert x+y\rVert\le\lVert x\rVert+\lVert y\rVert∥x+y∥≤∥x∥+∥y∥。

常用的 ppp 范数 ∥x∥p=(∑∣xi∣p)1/p\lVert x\rVert_p=\big(\sum\lvert x_i\rvert^{p}\big)^{1/p}∥x∥p​=(∑∣xi​∣p)1/p(p≥1p\ge 1p≥1),其中

范数算法
∥x∥1\lVert x\rVert_1∥x∥1​各分量绝对值之和
∥x∥2\lVert x\rVert_2∥x∥2​各分量平方和再开方
∥x∥∞\lVert x\rVert_\infty∥x∥∞​各分量绝对值的最大值

p<1p\lt 1p<1 时三角不等式不成立,不是范数。若 ∥⋅∥\lVert\cdot\rVert∥⋅∥ 是范数、PPP 可逆,则 ∥Px∥\lVert Px\rVert∥Px∥ 也是范数(加权范数)。有限维空间上任意两个范数等价:存在正数 c1,c2c_1,c_2c1​,c2​ 使 c1∥x∥a≤∥x∥b≤c2∥x∥ac_1\lVert x\rVert_a\le\lVert x\rVert_b\le c_2\lVert x\rVert_ac1​∥x∥a​≤∥x∥b​≤c2​∥x∥a​,所以按哪个范数讨论收敛,结论都一样。

矩阵范数与谱半径

矩阵范数

矩阵范数除了上面三条,还要求相容性(次乘性)∥AB∥≤∥A∥ ∥B∥\lVert AB\rVert\le\lVert A\rVert\,\lVert B\rVert∥AB∥≤∥A∥∥B∥。若 ∥Ax∥≤∥A∥ ∥x∥\lVert Ax\rVert\le\lVert A\rVert\,\lVert x\rVert∥Ax∥≤∥A∥∥x∥,称矩阵范数与向量范数相容。

  • F 范数:∥A∥F=(∑∣aij∣2)1/2=tr(AHA)\lVert A\rVert_F=\big(\sum\lvert a_{ij}\rvert^{2}\big)^{1/2}=\sqrt{\mathrm{tr}(A^{\mathrm H}A)}∥A∥F​=(∑∣aij​∣2)1/2=tr(AHA)​,与向量 2 范数相容,∥I∥F=n\lVert I\rVert_F=\sqrt n∥I∥F​=n​。
  • 诱导范数(算子范数):∥A∥=max⁡x≠0∥Ax∥∥x∥\lVert A\rVert=\max\limits_{x\neq 0}\dfrac{\lVert Ax\rVert}{\lVert x\rVert}∥A∥=x=0max​∥x∥∥Ax∥​,对任何诱导范数 ∥I∥=1\lVert I\rVert=1∥I∥=1。
诱导范数算法
∥A∥1\lVert A\rVert_1∥A∥1​列和范数:各列元素绝对值之和的最大值
∥A∥∞\lVert A\rVert_\infty∥A∥∞​行和范数:各行元素绝对值之和的最大值
∥A∥2\lVert A\rVert_2∥A∥2​谱范数:λmax⁡(AHA)\sqrt{\lambda_{\max}(A^{\mathrm H}A)}λmax​(AHA)​,即最大奇异值

谱半径

谱半径 ρ(A)=max⁡∣λi∣\rho(A)=\max\lvert\lambda_i\rvertρ(A)=max∣λi​∣。对任何与某向量范数相容的矩阵范数,都有 ρ(A)≤∥A∥\rho(A)\le\lVert A\rVertρ(A)≤∥A∥:设 Ax=λxAx=\lambda xAx=λx,则 ∣λ∣∥x∥=∥Ax∥≤∥A∥∥x∥\lvert\lambda\rvert\lVert x\rVert=\lVert Ax\rVert\le\lVert A\rVert\lVert x\rVert∣λ∣∥x∥=∥Ax∥≤∥A∥∥x∥。实对称矩阵(更一般的正规矩阵)有 ∥A∥2=ρ(A)\lVert A\rVert_2=\rho(A)∥A∥2​=ρ(A),一般矩阵两者可以不等。

三角分解与 QR 分解

三角分解:A=LUA=LUA=LU(LLL 单位下三角、UUU 上三角),各阶顺序主子式不为零时存在且唯一;对称正定矩阵有 A=LLTA=LL^{\mathrm T}A=LLT(楚列斯基分解)。它们是解线性方程组直接法的基础。

QR 分解:列满秩矩阵 AAA(m×nm\times nm×n)可以分解为 A=QRA=QRA=QR,QQQ 的列是标准正交向量组,RRR 是对角元为正的上三角矩阵,这样的分解唯一。做法是对 AAA 的列作施密特正交化:

q1=a1∥a1∥,r11=∥a1∥r1k=(ak,q1), ⋯ , rkk=∥ak−∑j<krjkqj∥\begin{aligned} q_1&=\frac{a_1}{\lVert a_1\rVert},\quad r_{11}=\lVert a_1\rVert\\ r_{1k}&=(a_k,q_1),\ \cdots,\ r_{kk}=\Big\lVert a_k-\sum_{j\lt k}r_{jk}q_j\Big\rVert \end{aligned}q1​r1k​​=∥a1​∥a1​​,r11​=∥a1​∥=(ak​,q1​), ⋯, rkk​=​ak​−j<k∑​rjk​qj​​​

也可以用豪斯霍尔德变换或吉文斯旋转来做,数值上更稳定。

满秩分解与奇异值分解

满秩分解:秩为 rrr 的 m×nm\times nm×n 矩阵 AAA 可写成 A=FGA=FGA=FG,FFF 是 m×rm\times rm×r 列满秩矩阵,GGG 是 r×nr\times nr×n 行满秩矩阵。做法:把 AAA 化成行最简形,取 AAA 的主元列组成 FFF,行最简形的非零行组成 GGG。满秩分解不唯一,FFF 选定后 GGG 就唯一了。

奇异值分解:任意 m×nm\times nm×n 矩阵 AAA 都可写成

A=UΣVHA=U\Sigma V^{\mathrm H}A=UΣVH

UUU、VVV 是酉矩阵(实矩阵时为正交矩阵),Σ\SigmaΣ 的主对角线上是奇异值 σ1≥⋯≥σr>0\sigma_1\ge\cdots\ge\sigma_r\gt 0σ1​≥⋯≥σr​>0,其余为零。奇异值是 AHAA^{\mathrm H}AAHA 的非零特征值的算术平方根,非零奇异值的个数等于秩,∥A∥2=σ1\lVert A\rVert_2=\sigma_1∥A∥2​=σ1​,∥A∥F2=∑σi2\lVert A\rVert_F^{2}=\sum\sigma_i^{2}∥A∥F2​=∑σi2​。

谱分解:实对称矩阵 A=∑λiuiuiTA=\sum\lambda_iu_iu_i^{\mathrm T}A=∑λi​ui​uiT​(uiu_iui​ 是标准正交特征向量),这时奇异值就是特征值的绝对值。

易错提醒

  • ❌ 谱半径也是一种矩阵范数。
    ✅ 谱半径不满足正定性:(0100)\begin{pmatrix}0&1\\0&0\end{pmatrix}(00​10​) 非零,谱半径却为 0。

  • ❌ 用 1 范数判断一个向量序列收敛、用 ∞\infty∞ 范数判断却发散,两种结论都可能出现。
    ✅ 有限维空间里任意两个范数等价,按哪一种范数判断收敛,结论都一样。

  • ❌ QR 分解要求 AAA 是方阵且可逆。
    ✅ 列满秩的长方矩阵就能做,QQQ 是列正交的 m×nm\times nm×n 矩阵、RRR 是 nnn 阶上三角矩阵。

  • ❌ 满秩分解是唯一的。
    ✅ A=FG=(FD)(D−1G)A=FG=(FD)(D^{-1}G)A=FG=(FD)(D−1G) 对任何可逆 DDD 都成立,只有先选定 FFF(或 GGG)才唯一。

例题精讲

例题 1(计算:QR 分解)

求 A=(132320)A=\begin{pmatrix}1&3\\2&3\\2&0\end{pmatrix}A=​122​330​​ 的 QR 分解。

解:a1=(1,2,2)Ta_1=(1,2,2)^{\mathrm T}a1​=(1,2,2)T,r11=3r_{11}=3r11​=3,q1=13(1,2,2)Tq_1=\dfrac13(1,2,2)^{\mathrm T}q1​=31​(1,2,2)T。r12=(a2,q1)=3+6+03=3r_{12}=(a_2,q_1)=\dfrac{3+6+0}{3}=3r12​=(a2​,q1​)=33+6+0​=3,a2−3q1=(2,1,−2)Ta_2-3q_1=(2,1,-2)^{\mathrm T}a2​−3q1​=(2,1,−2)T,长度 r22=3r_{22}=3r22​=3,q2=13(2,1,−2)Tq_2=\dfrac13(2,1,-2)^{\mathrm T}q2​=31​(2,1,−2)T。

Q=13(12212−2),R=(3303)Q=\frac13\begin{pmatrix}1&2\\2&1\\2&-2\end{pmatrix},\qquad R=\begin{pmatrix}3&3\\0&3\end{pmatrix}Q=31​​122​21−2​​,R=(30​33​)

点评:核对 QRQRQR 的第二列 3q1+3q2=(3,3,0)T3q_1+3q_2=(3,3,0)^{\mathrm T}3q1​+3q2​=(3,3,0)T 正是 a2a_2a2​;RRR 的对角元取正,分解才唯一。

例题 2(计算:几种范数与谱半径)

A=(1101)A=\begin{pmatrix}1&1\\0&1\end{pmatrix}A=(10​11​),求 ∥A∥1\lVert A\rVert_1∥A∥1​、∥A∥∞\lVert A\rVert_\infty∥A∥∞​、∥A∥F\lVert A\rVert_F∥A∥F​、∥A∥2\lVert A\rVert_2∥A∥2​ 和 ρ(A)\rho(A)ρ(A)。

解:列和 1、2,∥A∥1=2\lVert A\rVert_1=2∥A∥1​=2;行和 2、1,∥A∥∞=2\lVert A\rVert_\infty=2∥A∥∞​=2;∥A∥F=3≈1.732\lVert A\rVert_F=\sqrt3\approx 1.732∥A∥F​=3​≈1.732。ATA=(1112)A^{\mathrm T}A=\begin{pmatrix}1&1\\1&2\end{pmatrix}ATA=(11​12​),特征值 3±52\dfrac{3\pm\sqrt5}{2}23±5​​,∥A∥2=3+52=1+52≈1.618\lVert A\rVert_2=\sqrt{\dfrac{3+\sqrt5}{2}}=\dfrac{1+\sqrt5}{2}\approx 1.618∥A∥2​=23+5​​​=21+5​​≈1.618。特征值都是 1,ρ(A)=1\rho(A)=1ρ(A)=1。

点评:1<1.618<1.732<21\lt 1.618\lt 1.732\lt 21<1.618<1.732<2,谱半径不超过任何一种范数;非对称矩阵的谱范数一般大于谱半径。

本节小结

  • 向量范数三公理;ppp 范数要求 p≥1p\ge 1p≥1;有限维空间各范数等价。
  • 矩阵范数多一条相容性;F 范数、列和、行和、谱范数要会算;诱导范数下 ∥I∥=1\lVert I\rVert=1∥I∥=1。
  • ρ(A)≤∥A∥\rho(A)\le\lVert A\rVertρ(A)≤∥A∥;实对称矩阵 ∥A∥2=ρ(A)\lVert A\rVert_2=\rho(A)∥A∥2​=ρ(A)。
  • QR 分解 = 列向量施密特正交化;满秩分解取主元列与行最简形;奇异值是 AHAA^{\mathrm H}AAHA 特征值的平方根。

学完练一练

按本节考点从本课的课后练习里抽题(每次 10 道以内),做完看解析、错题自动进错题本。

本节内容由 AI 辅助编写,配图由 AI 生成,仅供备考参考;考试要求以《全国各类成人高等学校招生考试大纲(2024 年版)》及浙江省教育考试院当年公布为准。

我要提问免费报名咨询