逐步回归分析

在供选择的m 个自变量中，依各自变量对因变量作用的大小，即偏回归平方和（partial regression sum of squares）的大小，由大到小把自变量依次逐个引入。每引入一个变量，就对它进行假设检验。当P≤α 时，将该自变量引入回归方程。新变量引入回归方程后，对方程中原有的自变量也要进行假设检验，并把贡献最小且退化为不显著的自变量逐个剔出方程。因此，逐步回归每一步（引入一个自变量或剔除一个自变量）前后都要进行假设检验，直至既没有自变量能够进入方程，也没有自变量从方程中剔除为止。回归结束，最后所得方程即为所求得的“最优”回归方程。“最优回归方程”是指①对因变量Y 有显著作用的自变量，全部选入回归方程；②对因变量Y 无显著作用的自变量，一个也不引入回归方程。选择“最优回归方程”的方法如下。

1.最优子集回归法 求出所有自变量可能组合子集的回归方程的模型（共有2m-1个），按一定准则选择最优模型。

2.向后剔除法（backward selection）。(https://www.daowen.com)

3.向前引入法（forward selection）。

4.逐步回归法（stepwise selection） 双向筛选：引入有意义的变量（前进法），剔除无意义变量（后退法）。