讲是“研究用于求得数学问题近似解的方法和过程”。因此在计算过程中误差是不可避免。引起误差的因素很多主要有以下几种：
1模型误差在建立数学模型过程中不可能将所有因素均考虑必然要进行必要的简化这就带来了与实际问题的误差。
f2观测误差在数学模型中往往还有一些根据观测得到的物理量，如温度、长度、电压等这些参量显然也包含误差。这种由观测产生误差称为观测误差。
3截断误差在数学模型不能得到精确解时，通常用数值方法求它的近似解，其近似解与精确解之间的误差称为截断误差或方法误差。
4舍入误差计算机的字长是有限的每一步运算均需四舍五入由此产出的误差称舍入误差。
二、绝对误差、相对误差和有效数字数值分析主要讨论截断误差。观测误差看作初始的舍入误差数值分析也要从整体来讨论舍入误差的影响但这儿不讨论模型误差。
1误差和误差限
设是精确值x的一个近似值称
是近似值的绝对误差。简
称误差。误差是有量纲的
可正可负。误差是无法计算的但可估计出它的一个上界。即
称是
近似值的误差限
其精确值的范围
也可表示成
2相对误差和相对误差限误差限的大小还不能完全表示即似值的好坏，例如有两个量
x10±1，y1000±5则
虽然比大四倍，但是
比
要小得多，这说明近似y
的程度比近似x的程度
要好得多。所以除考虑误差的大小外，还应考虑准确值x本身的大小。为此我们引入相对误差：称
f为近似值的相对误差记作。相对误差是个相对数是无量纲的r也可正可负。相对误差的
估计
称为相对误差限即
实际计算中x是未知的用
来代替。两者的差为
3有效数字定义如果近似值的误差限是某一数位的半个单位从该位起向左到最前面第一个非零数字共有
位就说有
位有效数字，它可表示
其中i1…
是0到9中的一个数字，
m为整数，且
例如π31415926535…314有三位有效数字误差限ε000531416有五位有效数字误差限为000005。又如
0003529是四位有效数字误差限为

000352900是六位有效数字前者的误差限为
。
定理1设近似值
有
位有效数字
则其相对误差限
反之，若近似值的相对误差限为
则至少有
位有效数字。
证明因为：
故
f所以
反之，由
故至少有
位有效数字。
本定理说明，有效数字越多，相对误差越小。
例1重力加速度常数ｇ两者均有三位有效数字


后者的绝对误差大。而由定理1相对误差分别为
两者相等与量纲的选取无关。例2预使的近似r