合中方差最大的,故称F1为第一主成分。如果第一主成分不足以代表原来p个指标的信息,再考虑选取第二个主成分指标F2,为有
f效地反映原信息,F1已有的信息就不需要再出现在F2中,即F2与F1要保持独立、不相关,用数学语言表达就是其协方差CovF1F20,所以F2是与F1不相关的X1,X2,…,XP的所有线性组合中方差最大的,故称F2为第二主成分,依此类推构造出的F1、F2、……、Fm为原变量指标X1、X2……XP第一、第二、……、第m个主成分。
F1a11X1a12X2a1pXp
F2
a21X1
a22X2
a2pXp
Fmam1X1am2X2ampXp
根据以上分析得知:
1Fi与Fj互不相关,即CovFi,Fj0并有VarFiai’Σai,其中Σ为X的协方差阵
2F1是X1,X2,…,Xp的一切线性组合(系数满足上述要求)中方差最大的……即Fm是与F1,F2,……,Fm-1都不相关的X1,X2,…,XP的所有线性组合中方差最大者。
F1,F2,…,Fm(m≤p)为构造的新变量指标,即原变量指标的第一、第二、……、第m个主成分。
由以上分析可见,主成分分析法的主要任务有两点:(1)确定各主成分Fi(i1,2,…,m)关于原变量Xj(j1,2,…,p)
的表达式,即系数aij(i1,2,…,m;j1,2,…,p)。从数学上可以证
明,原变量协方差矩阵的特征根是主成分的方差,所以前m个较大特征根就代
表前m个较大的主成分方差值;原变量协方差矩阵前m个较大的特征值i(这样选取才能保证主成分的方差依次最大)所对应的特征向量就是相应主成分Fi
表达式的系数ai,为了加以限制,系数ai启用的是i对应的单位化的特征向量,
即有aiai1。(2)计算主成分载荷,主成分载荷是反映主成分Fi与原变量Xj之间的相互
关联程度:
PZkxikakii12pk12m
三、主成分分析法的计算步骤
主成分分析的具体步骤如下:(1)计算协方差矩阵
计算样品数据的协方差矩阵:Σsijpp,其中
sij
1
1
xki
k1
xixkj
xj
i,j1,2,…,p
f(2)求出Σ的特征值i及相应的正交化单位特征向量ai
Σ的前m个较大的特征值12…m0就是前m个主成分对应的方差,i
对应的单位特征向量ai就是主成分Fi的关于原变量的系数,则原变量的第i个主成分Fi为:
FiaiX
主成分的方差(信息)贡献率用来反映信息量的大小,i为:
m
iiii1
(3)选择主成分最终要选择几个主成分,即F1F2……Fm中m的确定是通过方差(信息)r