在图上标出针对每个样本的测定值及每个浓度水平的测定均值,手工或用计算机做图将均值点相连,观察数据点与直线间的偏差,如偏差过大,表明数据组存在明显非线性,需要对测定过程进行检查,排除因操作错误所至误差,并对样本进行重新测定。如图形与直线接近,表明可对数据组继续进行统计分析。33剔除离群值离群值可由散点图初步判断,标准中建议采用格拉布斯(GRUBBS)法进行离群值检验。检验步骤如下每组数据中有4个测定结果,分别记为y1,y2,y3,y4。1将4个测定值按大小顺序排列最大值记为max最小值记为mi
14
f2由4个测定值计算均值和标准差S
y1y2y3y44;
3根据可疑值max或mi
分别按下式计算统计量tt1maxS,t2mi
S
4根据给定的显著性水平a和重复测定次数查表得临界值5如t值大于临界值,则相应的可疑值为离群值。
Grubbs检验临界值Ta值表
样
样
本
显著性水平
本
显著性水平
数
数
00500250010005
00500250010005
3115311551155115541463148114921496
34进行多项回归分析对数据组进行多项回归分析,得到一级、二级与三级多项式。一级多项式为直线,二级多项式表示上升曲线或下降曲线,三级多项式表示S形曲线(在测量范围两端具有明显的非线性)。
15
f多项式方程如下:
级数
多项式
回归自由度(Rdf)
一级
Yb0b1X
2
二级
Yb0b1Xb2X2
3
三级
Yb0b1Xb2X2b3X3
4
35对回归方程进行线性检验
多元回归方程中以bi表示的系数为回归系数。在二级与三级方
程中,b2与b3为非线性系数。对回归方程进行线性检验就是对每
个非线性系数作t检验,判断回归系数与零是否有显著性差异。b0
与b1不反映非线性,故不需对其进行检验。对b2与b3的检验方
法如下:
计算统计量t,计算公式为:
tbiSEi
其中,SEi为每个非线性系数的斜率标准误,计算公式为:
S
其中,Y为回归方程预测值,与为测定均值。由公式dfLRRdf计算自由度,L为样本数,R为每个样本
16
f的测定次数,Rdf为回归自由度,即回归方程中系数(包括b0)的个数。如测定5样本,每个样本重复测定4次,则对测定数据进行回归分析后其三级多项式中L5,R4,Rdf4,df54416。在t值表中寻找t界值(双边检验,α005),将计算出的t值与界值比较,如p005,表示非线性系数与零无显著性差异,数据组被认为具线性,此时可对数据组进行精密度检验,具体方法见后。当精密度符合线性判断要求时,数据分析可结束。如p005,表示此非线性系数具有统计学显著性,数r