2.5.4 最小二乘法

更新于 2026年10月10日 版权声明
2.5.4 最小二乘法

由一组实验数据找出一条最佳拟合直线(或曲线),常用的方法是最小二乘法,所得的变量之间的相关函数关系称为回归方程。本书只讨论用最小二乘法进行一元线性拟合问题,其余有关多元线性拟合与非线性拟合,同学们请参阅相关专著。

(1)最小二乘法原理

在假定的函数关系前提下,预设函数中参数为最佳估值的条件是,使测量偏差平方之和为最小。定性地说,预设函数参数的最佳估值使估计曲线最好地与实验点拟合。即图线虽然不一定通过每个实验点,但是它以最接近这些实验点的方式平滑地穿过它们,即

图示

最小二乘法原理给出了一个数学条件,此条件暗含着一组求解参数的方程。

(2)用最小二乘法求解线性关系

设某一实验中,可控制的物理量取x1,x2,…,xn值时,对应的物理量依次取y1,y2,…,yn值。我们假定对xi值的观测是准确的,而误差都出现在yi的观测上。如果从( xi,yi )中任取两组实验数据就得出一条直线,那么这条直线的误差有可能很大。直线拟合的任务就是用数学分析的方法从这些观测到的数据中求出一个误差最小的最佳经验公式y=mx+b(图2.9)。按这一最佳经验公式得到的图线虽不一定能通过每一个实验点,但是它以最接近这些实验点的方式平滑地穿过它们。很明显,对应于每一个xi值,观测值yi和最佳经验式的y值之间存在一偏差Δ,我们称它为观测值yi的偏差,即

图示

图示

图2.9 y与x之间的线性关系

据最小二乘法原理,S=∑(yi-y)2最小,得到S(m,b)=∑[yi-(mxi+b)]2最小,所以根据最小条件

图示

解得

图示(https://www.daowen.com)

图示

由式(2.34)可知

图示

同理可由式(2.35)得

图示

(3)定义相关系数r

为了检验线性拟合的好坏,定义相关系数r。r是验证两变量之间的一个参数。r的大小反映了x与y之间的线性关系的密切程度。r的取值范围为图示。

r=0,说明x与y之间根本不具有线性关系,这种情况下数据分散,偏离回归直线。

图示=1,说明x与y之间具有完全线性关系,数据点全部落在回归直线上。

斜率m的标准差为

图示

图示

截距的标准差为

图示

↑上一章 ↓下一章
关注公众号获取验证码
复制内容需要验证码(7.99元/天)