四、最小二乘法

四、最小二乘法

在许多工程实际问题中,常常需要根据实验数据来寻找两个变量之间函数关系的近似表达式.通常把这样得到的函数的近似表达式称为经验公式.下面介绍用一次函数来近似表达两个变量之间关系的经验公式的一种方法.

例4 根据实验测得的变量x与y的n组数据(xi,yi)(i=1,2,…,n)如表2-1所示.

表2-1

img

可在平面直角坐标系中描绘出对应的n个点P(xi,yi)(i=1,2,…,n).如果这些点全部在某条直线上,则可认为两个变量x与y有关系式y=ax+b.实际上这些点都在一条直线上的可能性非常小,但我们可以通过选取合适的a、b,使直线y=ax+b尽可能地与这n个点靠近,这样就可以用关系式y=ax+b近似地表达变量x与y的关系.

img

图2-15

如何选取a、b呢?应该使直线上对应于x=xi的点的纵坐标axi+b与实验数据yi相差越小越好,即偏差yi-(axi-b)(i=1,2,…,n)要很小(图2-15).那么,能否设法使偏差的和img-b)]很小来保证每个偏差都很小呢?不能,因为偏差有正有负,相加时可能相互抵消.为了避免出现这种情形,可对偏差取绝对值再求和,只要img很小,就可以保证每个偏差都很小.但是这个式子中有绝对值,不便于进一步分析讨论,进而考虑偏差的平方和img.从而现在的问题归结为:确定函数y=ax+b中的待定系数a和b,使

img

为最小.这种根据偏差的平方和为最小来选择常数a、b的方法称为最小二乘法.

由于上式可看成是a、b的二元函数,因此将二元函数M(a,b)对a、b求偏导数,有

img

例5 为某实验测得的五组数据如表2-2所示,试求经验公式.

表2-2

img

解 设所求经验公式为y=ax+b,下面通过列表来计算(表2-3).

img

表2-3

img
img

因此所求经验公式为y=ax+b=0.387x+3.622.