§2矩阵的奇异值分解
定义设A是秩为r的m
复矩阵,ATA的特征值为
12rr1
0
则称iii12
为A的奇异值易见,零矩阵的奇异值都是零,矩阵A的奇异值的个数等于A的列
数,A的非零奇异值的个数等于其秩矩阵的奇异值具有如下性质:(1)A为正规矩阵时,A的奇异值是A的特征值的模;(2)A为半正定的Hermite矩阵时,A的奇异值是A的特征值;(3)若存在酉矩阵UCmmVC
,矩阵BCm
,使UAVB,
则称A和B酉等价酉等价的矩阵A和B有相同的奇异值
奇异值分解定理设A是秩为rr0的m
复矩阵,则存
在m阶酉矩阵U与
阶酉矩阵V,使得
UHAV
O
OO
①
其中diag12r,ii12r为矩阵A的全部非零奇
异值
证明设Hermite矩阵AHA的
个特征值按大小排列为
12rr1
0
则存在
阶酉矩阵V,使得
1
VHAHAV
2
O
OO
②
f将V分块为
VV1V2,
其中V1,V2分别是V的前r列与后
r列并改写②式为
则有
AHAV
V
2
O
OO
AHAV1V12,AHAV2O
③
由③的第一式可得
V1HAHAV12,或者AV1HAV1Er由③的第二式可得
AV2HAV2O或者AV2O
令U1AV11,则U1HU1Er,即U1的r个列是两两正交的单位向
量记作U1u1u2ur,因此可将u1u2ur扩充成Cm的标准正交基,记增添的向量为ur1um,并构造矩阵U2ur1um,则
UU1U2u1u2urur1um
是m阶酉矩阵且有于是可得
U1HU1Er,U2HU1O
UHAV
UHAV1,AV2
UU12HH
U1,O
O
OO
由①式可得
A
U
O
OO
V
H
1u1v1H
2u2v2H
rurvrH
④
称④式为矩阵A的奇异值分解
值得注意的是:在奇异值分解中u1u2urur1um是AAH的特征
向量,而V的列向量是AHA的特征向量,并且AAH与AHA的非零特征值
f完全相同但矩阵A的奇异值分解不惟一
证明2设Hermite矩阵AHA的
个特征值按大小排列为
12rr1
0
则存在
阶酉矩阵V,使得
1
VHAHAV
2
O
OO
②
将V分块为Vv1v2v
,它的
个列v1v2v
是对应于特征值
12
的标准正交的特征向量
为了得到酉矩阵U,首先考察Cm中的向量组Av1Av2Avr,由于当
i不等于j时有
AviAvjAvjHAvivjHAHAvivjHiviivjHvi0
所以向量组Av1Av2Avr是Cm中的正交向量组
又
Avi
2viHAHAvi
iviHvi
2i
,
所以
Aviii
令ui
1i
Avi
,i
12
r,则得到Cm中的标准正交向量组u1u2
ur,
把它扩充成为Cm中的标准正交基u1urur1um,令
Uu1r