9.4 进行回归分析
1.一元线性回归分析
通常，变量之间的相互关系可以分为两类。第一类：可称为函数关系。第二类：变量之间的关系并不是完全确定的，也就是说，通过大量的数据统计资料可大概掌握变量的走向，这可以通过回归分析方程来实现。
回归分析是主要验证和研究一个或多个因变量与一个或多个自变量之间是否存在线性关系或非线性关系的一种统计分析方法，回归分析主要确定变量x与y之间的关系。根据因变量和自变量的个数，线性回归分为一元线性回归分析与多元线性回归分析两种。
（1）一元线性回归分析的基本概念
在实际问题的研究中，经常需要研究一种现象与最主要因素之间的关系。一般来说，被预测的变量称为因变量，用y表示，影响因变量的因素称为自变量，用x表示。一元线性回归法是研究一个因变量与一个自变量之间线性关系的预测方法。
x与y之间线性关系的数学结构通常用下面的形式，一元线性回归模型表示为
式（9.23）将实际问题中变量y与x之间的关系用两个部分描述：一部分是由x的变化引起y线性变化的部分，即a+bx；另一部分是由其他一切随机因素引起的变化，即ε。其中a称为回归常数，b称为回归系数，ε称为误差项。一般把y当作因变量，x当作自变量。一般我们假如ε是不可观测的误差项，假定ε～N（0，σ2），相当于对y做这样的正态假设：对于x的每一个值有y～N（ax+b，σ2），其中未知参数a，b，σ2不依赖于x。式（9.23）称为一元线性样本回归模型。
（2）一元线性回归分析的最小二乘估计
为了得到一元线性回归方程的回归参数a和b的理想估计值，必须使用样本数据进行估计。通常使用普通最小二乘估计方法（ordinaryleastsquareestimation），也可以说，一元回归分析法是用于确定直线的方法。最小二乘法的基本思想：最有代表性的直线应该是直线到各点的距离最近，然后用这条直线进行预测。最小二乘估计量是无偏的，与此同时最小二乘估计的方差最小，所以通常称最小二乘估计量是最佳线性无偏估计量。从每一个样本观测值（xi，yi）来看，最小二乘方法先考虑的是误差ei=yi-（a+bxi）的平方和：
最小二乘估计法就是找出参数a与b的估计值
和
的方法，使得式（9.24）定义的误差平方和达到极小，即寻找
和
，使得满足
从式（9.25）中解出的
就叫作回归参数a，b的最小二乘估计。
其中
为yi的回归拟合值，称为回归值。
式（9.27）称为yi（i=1，2，…，n）的残差。
Q（a，b）是关于a，b的非负二次函数，因此最小值总是存在的。由微积分中求极值的原理得出下面的方程组：
化简方程（9.28），得出最小二乘正规方程组：
正规方程组的系数矩阵为
由式（9.30）可知方程组（9.29）有唯一解，解方程组（9.29）得a和b的最小二乘估计值：
因此所求线性回归方程为
（3）一元线性回归分析的最小二乘估计的性质
①
和
分别是a和b的无偏估计量，即E
）=a，E（
）=b。
②如果假设ei～N（0，σ2），则
，即如果记
和
的标准差（即方差的平方根）分别为
和
，有
③如果令
，则
是σ2的无偏估计量。
④
，并且
相互独立。
（4）拟合优度的度量
因变量y的样本拟合值与样本观测值的平均值的离差平方和称为回归平方和，记为SSr：
因变量y的样本拟合值与样本观测值之差的平方和称为剩余变差（残差平方和），记为SSe：
因变量y的样本观测值与其平均值的离差平方和称为总离差平方和，记为SSt：
因变量y与自变量x之间的相关程度可以用一个量来描述，常用的是判定系数或确定系数R2，其定义如下：
R2越大表明经验回归直线所能解释的因变量的变动部分越大，则y与x的线性相关程度越高，实际上R就是y与x的相关系数。
校正测定系数的定义如下：
（5）回归方程的显著性检验
要检验线性回归方程（9.32）是否真正描述了因变量y与自变量x之间客观存在的关系，需从所研究问题的实际背景来考察这个经验回归直线所描述的变量之间关系的合理性。下面要讨论的回归方程的显著性检验，对于一元线性回归模型，回归方程的显著性检验就是要检验假设：
由线性回归分析的性质有
，这两者独立，于是假设成立时有(https://www.daowen.com)
对于给定的显著性水平α，拒绝原假设，接受b≠0的条件为
这种检验方法称为t检验法。
由t分布与F分布的关系
=F1，n，有
，因此对于给定的显著性水平α，拒绝原假设，接受b≠0的条件为
这种检验方法称为F检验法。这个等价于
F检验统计量
可表示为
式（9.44）中的误差平方和SSe除于它的自由度（n-2），称为误差平方的均方，记为MSe，即MSe=SSe/（n-2）。同理，定义总离差平方和的均方MSr=SSr。因此也可以写F=
（6）回归参数的区间估计
式（9.33）中的σ用σ^代替，得
很容易可以证明
，因此对于任意给定的置信度1-α，应有
由此得到参数a的置信度为1-α的区间估计为
同理，参数b的置信度为1-α的区间估计为
（7）补充
在回归分析中还有一个统计量，即T检验统计量，其定义如下：
T检验统计量要检验
2.Excel回归分析模板的制作
例9.8 为了研究全国各地区地方财政税收收入与地区生产总值的关系，取得2012年各地区相关数据，如图9.21所示[6]，从而确定各地区地方财政税收收入y与地区生产总值x的线性回归模型。
图9.21 2012年各地区地方财政税收收入与地区生产总值数据
（1）手动设计回归分析模板
下面用Excel的内置函数和计算功能详细介绍手动设计回归分析模板的过程。所有制作过程以图9.21为参考。
图9.22 手动设计回归分析模板
第一步，数据的输入。在单元格区域A2：B32中输入各地区地方财政税收收入与地区生产总值数据。
第二步，相关的计算。在单元格G2和H2中分别输入“=AVERAGE（B2：B32）”和“=AVERAGE（C2：C32）”，计算y与x的均值
和
。选中单元格区域D2：D32，输入“=（（B2：B32）-$G$2）*（（C2：C32）-$H$2）”，同时按“Shift+Ctrl+Enter”键，得（xi-
）（yi-
）的值。在单元格I2和J2中分别输入“=SUMSQ（B2：B32-G2）”和“=SUM（D2：D32）”，计算Sxx与Sxy的值。
第三步，回归参数和拟合值的输入。在单元格H5和H6中用式（9.31）分别输入“=H2-H6*G2”和“=J2/I2”。在单元格E2中输入“=$H$5+$H$6*B2”，拖动填充单元格区域E3：E32。
第四步，拟合优度的度量。在单元格H9、H10和H11中用式（9.34）、（9.35）和（9.36）分别输入“=SUMSQ（E2：E32-H2）”“=SUMXMY2（C2：C32，E2：E32）”和“=SUMSQ（C2：C32-H2）。在单元格I9和I10中输入离差平方和误差平方的计算公式“=H9/1”和“=H10/（H17-2）”。在单元格J9中输入F统计量计算公式“=I9/I10”。在单元格K9中输入F检验的计算公式“=1-F.DIST（J9，1，H17-2，TRUE）”。在单元格H13和H14中分别输入相关系数及其平方的计算公式，即“=CORREL（B2：B32，C2：C32）”和“=H13^2”。在单元格H15中输入校正测定系数的计算公式“=1-（H17-1）*（1-H14）/（H17-2）”。在单元格H15中用标准误差计算公式
输入“=SQRT（H10/（H17-2））”。在单元格H15中输入统计样本点的计算公式“=COUNT（B2：B32）”。
第五步，回归参数的区间估计。在单元格I5和I6中用标准误差计算公式（9.45）分别输入“=SQRT（1/H17+G2^2/I2）*H16”和“=H16/SQRT（I2）”。在单元格J5和J6中用T检验统计量计算公式（9.49）和（9.50）分别输入“=H5/I5”和“=H6/I6”。在单元格K5和K6中用T检验统计量检验公式（9.51）和（9.52）分别输入“=T.DIST.2T（J5，29）”和“=T.DIST.2T（J6，29）”。在单元格L5和M5中用参数a的区间估计公式（9.47）分别输入“=H5-T.INV.2T（0.05，H17-2）*I5”和“=H5+T.INV.2T（0.05，H17-2）*I5”。在单元格L6和M6中用参数b的区间估计公式（9.48）分别输入“=H6-T.INV.2T（0.05，H17-2）*I6”和“=H6+T.INV.2T（0.05，H17-2）*I6”。
（2）用Excel的回归分功能进行回归分析
第一步，“数据分析”功能键的添加。在图5.8所示的“加载”宏选项对话框中，选择“分析工具库”，再单击“确定”按钮，此时“数据”菜单右上角产生一个“数据分析”功能键。
第二步，数据的输入。在单元格区域A2：B32中输入各地区地方财政税收收入与地区生产总值数据。
第三步，回归分析。在“数据”的“数据分析”选项框中选择“回归”（如图9.22所示），单击“确定”按钮，打开“回归”对话框。在“回归”对话框的Y值输入区域中输入“$B$2：$B$32”，在X值输入区域中输入“$C$2：$C$32”，在输出选项中输入“$E$1”，如图9.23所示，单击“确定”按钮，得到图9.24所示的结果。
图9.23 “数据分析”选项框
图9.24 “回归”对话框
图9.25 回归分析结果
本章首先设计了回归分析的手动计算模板，详细说明所有过程；然后通过Excel自带的回归分析数据处理功能，详细介绍了每一个参数的具体意义和用到的公式；最后通过比较输出结果，验证了手动计算结果的正确性。
