逐步回归的基本**是将变量逐个引入模型,每引入一个解释变量后都要进行F检验,并对已经选入的解释变量逐个进行t检验,当原来引入的解释变量由于后面解释变量的引入变得不再显著时,则将其删除。以确保每次引入新的变量之前回归方程中只包含显著性变量。这是一个反复的过程,直到既没有显著的解释变量选入回归方程,也没有不显著的解释变量从回归方程中剔除为止。以保证最后所得到的解释变量集是最优的。
- 正向(Forward)选择,从模型中没有预测因素开始,反复添加最有帮助的预测因素,直到没有显著的预测变量选入回归方程 。
- 向后(Backward)选择(也称向后消除)从完整模型(即包含所有可能预测变量的模型)中的所有预测变量开始,以迭代方式删除贡献最小的预测变量,直到没有不显著的预测变量从回归方程删除。
- 逐步(stepwise)选择(也称顺序替换),这是向前和向后选择的组合。您从没有预测变量开始,然后顺序添加最有贡献的预测变量(例如正向选择)。添加每个新变量后,删除所有不再改善模型拟合的变量(例如向后选择),直到既没有显著的预测变量选入回归方程,也没有不显著的预测变量从回归方程中剔除为止。
AIC:(Akaike information criterion,简称AIC),是评估统计模型的复杂度和衡量统计模型“拟合”优度的指标之一。