μx2μxNμ则将投影变换矩阵A取为ST的前k个最大特征值对应的特征向量。利用KL变换式对原图像进行去相关并降维:YAKXmx(33)(32)(31)
3
f因为STXXT,而X‘为(m
)N矩阵,但是因为X’为N阶矩阵,所以ST的秩最大为N1,这样只要计算出ST的特征向量就可以计算出KL变换矩阵了。但是因为ST是(m
)m
阶的矩阵,所以计算它的特征向量比较复杂,这里使用了一个技巧:XTXviδiviXXTXviδiXvi(34)(35)
根据式子34与35可以看出,只要计算出XTX的特征值和特征向量δi与vi,然后就可以计算出XXT的特征值和特征向量δi与Xvi,而XTX为NN阶的矩阵,计算起来比较容易,除此以外,也可以使用SVD。
三PCA流程整理
PCA的整个变换过程整理了一下,如下:1将mx
的训练图像重新排列为m
维的列向量计算均值向量,并利用均值向量将所有样本中心化。2利用中心化后的样本向量,根据式(32)计算其协方差矩阵;对其特征值分解,并将特征向量按其对应的特征值大小进行降序排列。3选取第2步所得的k≤N1个最大特征值对应的特征向量组成投影矩阵A,将每幅已中心化的训练图像x1μx2μxNμ,向矩阵A投影,得到每幅训练图像的降维表示为y1μy2μyN
4
f4对测试图像中心化,并投影到矩阵A,得到测试图像的降维表示。5选择合适的分类器,对测试图像进行分类。
5
fr