本节导读
这一节对应矩阵理论大纲「五、矩阵分析」的前两条:「向量范数与矩阵范数」「矩阵分解」。范数给向量和矩阵规定「大小」,是讨论矩阵序列收敛、矩阵级数和误差估计的工具;矩阵分解把一个矩阵写成几个结构简单的矩阵之积,是数值计算和控制系统分析的常用手段。
学完要做到:会验证范数公理,算常用的向量范数和矩阵范数;知道诱导范数与谱半径的关系;会做 QR 分解、满秩分解,会求奇异值。
本节记号:∥⋅∥ 表示范数;ρ(A) 是谱半径(特征值模的最大值);AH 是共轭转置(实矩阵就是 AT);σi 是奇异值;Q 是列正交(正交)矩阵,R 是上三角矩阵;三角分解 A=LU 里 L、U 是下、上三角矩阵,奇异值分解 A=UΣVH 里 U、V 是酉矩阵——同一个 U 在本节有两种含义。
向量范数
线性空间上的实值函数 ∥x∥ 满足三条公理就叫向量范数:
- 正定性:∥x∥≥0,且 ∥x∥=0⇔x=0;
- 齐次性:∥kx∥=∣k∣∥x∥;
- 三角不等式:∥x+y∥≤∥x∥+∥y∥。
常用的 p 范数 ∥x∥p=(∑∣xi∣p)1/p(p≥1),其中
| 范数 | 算法 |
|---|
| ∥x∥1 | 各分量绝对值之和 |
| ∥x∥2 | 各分量平方和再开方 |
| ∥x∥∞ | 各分量绝对值的最大值 |
p<1 时三角不等式不成立,不是范数。若 ∥⋅∥ 是范数、P 可逆,则 ∥Px∥ 也是范数(加权范数)。有限维空间上任意两个范数等价:存在正数 c1,c2 使 c1∥x∥a≤∥x∥b≤c2∥x∥a,所以按哪个范数讨论收敛,结论都一样。
矩阵范数与谱半径
矩阵范数
矩阵范数除了上面三条,还要求相容性(次乘性)∥AB∥≤∥A∥∥B∥。若 ∥Ax∥≤∥A∥∥x∥,称矩阵范数与向量范数相容。
- F 范数:∥A∥F=(∑∣aij∣2)1/2=tr(AHA),与向量 2 范数相容,∥I∥F=n。
- 诱导范数(算子范数):∥A∥=x=0max∥x∥∥Ax∥,对任何诱导范数 ∥I∥=1。
| 诱导范数 | 算法 |
|---|
| ∥A∥1 | 列和范数:各列元素绝对值之和的最大值 |
| ∥A∥∞ | 行和范数:各行元素绝对值之和的最大值 |
| ∥A∥2 | 谱范数:λmax(AHA),即最大奇异值 |
谱半径
谱半径 ρ(A)=max∣λi∣。对任何与某向量范数相容的矩阵范数,都有 ρ(A)≤∥A∥:设 Ax=λx,则 ∣λ∣∥x∥=∥Ax∥≤∥A∥∥x∥。实对称矩阵(更一般的正规矩阵)有 ∥A∥2=ρ(A),一般矩阵两者可以不等。
三角分解与 QR 分解
三角分解:A=LU(L 单位下三角、U 上三角),各阶顺序主子式不为零时存在且唯一;对称正定矩阵有 A=LLT(楚列斯基分解)。它们是解线性方程组直接法的基础。
QR 分解:列满秩矩阵 A(m×n)可以分解为 A=QR,Q 的列是标准正交向量组,R 是对角元为正的上三角矩阵,这样的分解唯一。做法是对 A 的列作施密特正交化:
q1r1k=∥a1∥a1,r11=∥a1∥=(ak,q1), ⋯, rkk=ak−j<k∑rjkqj
也可以用豪斯霍尔德变换或吉文斯旋转来做,数值上更稳定。
满秩分解与奇异值分解
满秩分解:秩为 r 的 m×n 矩阵 A 可写成 A=FG,F 是 m×r 列满秩矩阵,G 是 r×n 行满秩矩阵。做法:把 A 化成行最简形,取 A 的主元列组成 F,行最简形的非零行组成 G。满秩分解不唯一,F 选定后 G 就唯一了。
奇异值分解:任意 m×n 矩阵 A 都可写成
A=UΣVH
U、V 是酉矩阵(实矩阵时为正交矩阵),Σ 的主对角线上是奇异值 σ1≥⋯≥σr>0,其余为零。奇异值是 AHA 的非零特征值的算术平方根,非零奇异值的个数等于秩,∥A∥2=σ1,∥A∥F2=∑σi2。
谱分解:实对称矩阵 A=∑λiuiuiT(ui 是标准正交特征向量),这时奇异值就是特征值的绝对值。
易错提醒
-
❌ 谱半径也是一种矩阵范数。
✅ 谱半径不满足正定性:(0010) 非零,谱半径却为 0。
-
❌ 用 1 范数判断一个向量序列收敛、用 ∞ 范数判断却发散,两种结论都可能出现。
✅ 有限维空间里任意两个范数等价,按哪一种范数判断收敛,结论都一样。
-
❌ QR 分解要求 A 是方阵且可逆。
✅ 列满秩的长方矩阵就能做,Q 是列正交的 m×n 矩阵、R 是 n 阶上三角矩阵。
-
❌ 满秩分解是唯一的。
✅ A=FG=(FD)(D−1G) 对任何可逆 D 都成立,只有先选定 F(或 G)才唯一。
例题精讲
例题 1(计算:QR 分解)
求 A=122330 的 QR 分解。
解:a1=(1,2,2)T,r11=3,q1=31(1,2,2)T。r12=(a2,q1)=33+6+0=3,a2−3q1=(2,1,−2)T,长度 r22=3,q2=31(2,1,−2)T。
Q=3112221−2,R=(3033)
点评:核对 QR 的第二列 3q1+3q2=(3,3,0)T 正是 a2;R 的对角元取正,分解才唯一。
例题 2(计算:几种范数与谱半径)
A=(1011),求 ∥A∥1、∥A∥∞、∥A∥F、∥A∥2 和 ρ(A)。
解:列和 1、2,∥A∥1=2;行和 2、1,∥A∥∞=2;∥A∥F=3≈1.732。ATA=(1112),特征值 23±5,∥A∥2=23+5=21+5≈1.618。特征值都是 1,ρ(A)=1。
点评:1<1.618<1.732<2,谱半径不超过任何一种范数;非对称矩阵的谱范数一般大于谱半径。
本节小结
- 向量范数三公理;p 范数要求 p≥1;有限维空间各范数等价。
- 矩阵范数多一条相容性;F 范数、列和、行和、谱范数要会算;诱导范数下 ∥I∥=1。
- ρ(A)≤∥A∥;实对称矩阵 ∥A∥2=ρ(A)。
- QR 分解 = 列向量施密特正交化;满秩分解取主元列与行最简形;奇异值是 AHA 特征值的平方根。