介绍算法介绍
数据情况
案例
#, - *安康;编码:UTF-8 - * -
import numpy as np
import statsmodels.api as sm
import statsmodels.formula.api as smf
得到statsmodels.stats.api import anova_lm
import matplotlib.pyplot as plt
import pandas as pd
得到patsy import dmatrices
import itertools as 它
import 随机
#,Load data 读取数据
时间=df pd.read_csv (& # 39; data3.1.csv& # 39;,编码=& # 39;gbk # 39;)
打印(df)
时间=target & # 39; y # 39;
时间=variate 集(df.columns), #获取列名
variate.remove(目标),#去除无关列
variate.remove(& # 39;地区& # 39;)
#定义多个数组,用来分别用来添加变量,删除变量
时间=x []
时间=variate_add []
时间=variate_del variate.copy ()
#,打印(variate_del)
时间=y random.sample(变量、3),#随机生成一个选模型,3为变量的个数
打印(y)
#将随机生成的三个变量分别输入到,添加变量和删除变量的数组
for 小姐:y拷贝:
,variate_add.append(我)
,x.append(我)
,variate_del.remove(我)
global aic #设置全局变量,这里选择AIC值作为指标
公式=皗}~ {}“.format (“y"“+“. join (variate_add)), #将自变量名连接起来
aic=smf.ols(公式=公式、数据=https://www.yisu.com/zixun/df) .fit () .aic #获取随机函数的aic值,与后面的进行对比
打印(“随机化选模型为:{}~{},对应的AIC值为:{}“.format (" y ", " + " . join (variate_add), AIC))
print (“/n”)
#添加变量
def forwark ():
score_add=[]
全球best_add_score
全球best_add_c
打印(“添加变量”)
对于c variate_del:
公式=" {}~ {}”。格式(" y ", " + " . join (variate_add + [c]))
分数=smf。ols(公式=公式、数据=df) .fit .aic ()
score_add。追加((得分,c)) #将添加的变量,以及新的AIC值一起存储在数组中
打印(“自变量为{},对应的AIC值为:{}“.format (" + " . join (variate_add + [c]),分数))
score_add.sort(反向=True) #对数组内的数据进行排序,选择出AIC值最小的
best_add_score best_add_c=score_add.pop ()
打印(“最小AIC值为:{}“.format (best_add_score))
print (“/n”)
#删除变量
def回():
score_del=[]
全球best_del_score
全球best_del_c
打印(“剔除变量”)
因为我在x:
选择=x.copy() #复制一个集合,避免重复修改到原集合
select.remove(我)
公式=" {}~ {}”.format (" y ", " + " . join (select))
分数=smf。ols(公式=公式、数据=df) .fit .aic ()
打印(“自变量为{},对应的AIC值为:{}“.format (" + " . join(选择),分数))
score_del。追加((得分,我))
score_del.sort(反向=True) #排序,方便将最小值输出
best_del_score best_del_c=score_del.pop() #将最小的AIC值以及对应剔除的变量分别赋值
打印(“最小AIC值为:{}“.format (best_del_score))
print (“/n”)
打印(“剩余变量为:{}“.format (variate_del))
forwark ()
回()
而变量:
# forwark ()
# ()
如果(aic
本篇文章为大家展示了使用python怎么实现逐步回归,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。
算法介绍
逐步回归是一种线性回归模型自变量选择方法;
逐步回归的基本思想是将变量逐个引入模型,每引入一个解释变量后都要进行F检验,并对已经选入的解释变量逐个进行t检验,当原来引入的解释变量由于后面解释变量的引入变得不再显著时,则将其删除。以确保每次引入新的变量之前回归方程中只包含显著性变量。这是一个反复的过程,直到既没有显著的解释变量选入回归方程,也没有不显著的解释变量从回归方程中剔除为止。以保证最后所得到的解释变量集是最优的。
这里我们选择赤池信息量(Akaike信息标准)来作为自变量选择的准则,赤池信息量(AIC)达到最小:基于最大似然估计原理的模型选择准则。
数据情况
案例
在现实生活中,影响一个地区居民消费的因素有很多,例如一个地区的人均生产总值,收入水平等等,本案例选取了9个解释变量研究城镇居民家庭平均每人全年的消费新支出y,解释变量为:
x1——居民的食品花费
x2 -居民的衣着消费
x3,居民的居住花费
x4,居民的医疗保健花费
x5,居民的文教娱乐花费
x6 -地区的职工平均工资
x7——地区的人GDP均
的混合体——地区的消费价格指数
x9——地区的失业率(%)
数据
