多元线性回归模型的检验

三、多元线性回归模型的检验

(一)拟合程度的评价

与一元回归模型类似,判断多元线性回归模型拟合程度优劣最常用的数量指标是多重可决系数(又称决定系数),用回归平方和占总离差平方和的比例来计算,公式为

图示

式中,SST=∑(Yi-图示2是总离差平方和,反映了因变量观测值总离差的大小;SSR=∑(图示-图示2是回归平方和,反映了因变量回归估计值所说明的总离差的大小,它是因变量观测值总离差中由自变量解释的那部分离差;SSE=∑(Yi-图示2是残差平方和,反映了因变量观测值与估计值之间的总离差,是因变量观测值总离差中未被自变量解释的那部分。而且,总离差平方和SST可分解为回归平方和SSR和残差平方和SSE,即SST=SSR+SSE。

R2是自变量个数的非递减函数。在一元线性回归模型中,所有模型包含的变量数目都相同,如果所使用的样本容量也一样,可决系数便可以直接作为评价拟合程度的尺度。然而在多元线性回归模型中,各回归模型所含的变量的数目未必相同,以R2的大小作为衡量拟合优劣的尺度是不合适的。因此,在多元回归分析中,人们更常用的评价指标是所谓的修正自由度的可决系数图示。该指标的定义如下

图示

式中,n表示样本容量;k表示模型中回归系数的个数。

可以看出,图示≤R2。在进行回归分析时,一般总是希望以尽可能少的自变量去达到尽可能高的拟合程度。图示作为综合评价这两方面情况的一项指标,显然比R2更为合适。

(二)回归方程的显著性检验

回归方程的显著性检验,是检验自变量与因变量之间的线性关系是否显著,具体方法是利用回归平方和SSR与剩余离差平方和SSE的比较,应用F检验来分析二者之间的差别是否显著。

回归方程显著性检验的步骤:(https://www.daowen.com)

第一步,提出假设:H0:β23=…=βk=0;书版无字符:0x2922H1:β2,β3,…,βk中至少有一个不为0第二步,构造检验统计

图示

第三步,确定显著性水平α,进行统计决策:如果F<Fα(1,n-2),不拒绝原假设,总体回归函数中的各自变量和因变量的线性关系不显著;若F>Fα(1,n-2),拒绝原假设,总体回归函数中的各自变量和因变量的线性关系显著。

(三)回归系数的显著性检验

回归系数的显著性检验,是检验各个自变量Xi对因变量Y的影响是否显著。以便对自变量的取舍做出正确的判断。一般来说,当发现某个自变量的影响不显著时,应将其从模型中删除。这样才能够做到以尽可能少的自变量去达到尽可能高的拟合优度。

回归系数显著性检验的步骤:

第一步,提出假设:H0:βi=0书版无字符:0x2922H1:βi≠0(i=1,2,…,k)

第二步,构造检验统计量

图示

式中,图示表示回归系数的估计值;图示图示的标准差的估计值。

第三步,确定显著性水平α,进行统计决策:如果图示图示,不拒绝原假设,X对Y的影响不显著;若图示,拒绝原假设,X对Y的影响显著。