多元线性回归：估计方法及回归系数显著性检验
线性回归模型的基本假设
yi01x1i2x2ikxkiui
i12…

在普通最小二乘法中，为保证参数估计量具有良好的性质，通常对模型提出若干基本假设：1．解释变量间不完全相关；2．随机误差项具有0均值和同方差。即
Eui0Varui2
i12…

3．不同时点的随机误差项互不相关（序列不相关），即
Covuiuis0
s≠0
i12…

4．随机误差项与解释变量之间互不相关。即
Covxjiui0
j12…k
i12…

5．随机误差项服从0均值、同方差的正态分布。即
uiN02
i12…

当模型满足假设14时，将回归模型称为“标准回归模型”，当模型满足假设15时，将回归模型称为“标准正态回归模型”。如果实际模型满足不了这些假设，普通最小二乘法就不再适用，而要发展其他方法来估计模型。
广义（加权）最小二乘估计（ge
eralizedleastsquares）
2当假设2和3不满足时，即随机扰动项存在异方差Eui2ii，i12…
，且随
机扰动项序列相关Covuiujijij，i12…
，j12…
，此时OLS估
计仍然是无偏且一致的，但不是有效估计。
线性回归的矩阵表示：yXβu则上述两个条件等价为：（1）
f11121
21222
Varu2IT2
T1
对于正定矩阵存在矩阵M，使得MΩMIMMΩ1。在方程（1）两边同时左乘M，得到转换后的新模型：yXβuMyMXβMu，令yMyXMXuMu，即
yXβu
（2）
新的随机误差项的协方差矩阵为varuEMuuMMΩMI，显然是同方差、无序列相关的。目标函数，即残差平方和为：QuuuMMuuu。目标函数是残差向量的加权平方和，而权数矩阵则是u的协方差矩阵的逆矩阵（因此，广义最小二乘估计法也称为加权最小二乘估计法）。而新模型的OLS估计量则是原模型的GLS估计量。
XX1XyXMMX1XMMyXΩ1X1XΩ1yβGLS
1
Var（
GLS）
X’X1X’M’MX1X’
1
X1（Var（
OLS）
X’X1X’XX’X1）。
由于变换后的模型2满足经典OLS的所有假设，所以根据高斯马科夫定理可知，GLS估计量是BLUE（BestLi
earU
biasedEstimator）。虽然从理论上讲，GLS比OLS有效，但由于多数情况下残差序列的协方差矩阵未知，当我们用代替GLS估计式中的以r