岭迹图的制作

# 设置matplotlib参数,正确显示中文和'-'符号。
plt.rcParams.update(
    {
        'text.usetex': False,
        'font.family': 'stixgeneral',
        'mathtext.fontset': 'stix',
    }
)
alpha=np.linspace(0,1,220)
intercept_dict = {}#回归系数保存在这里
for a in alpha:
    result = model1.fit_regularized(L1_wt=0,alpha=a,refit=True,profile_scale=True)
    ###保存每次迭代的回归系数估计值
    intercept_dict[a]=result.params
###lambda参数与对应的系数估计值,去掉截距项
params_l2 = pd.DataFrame(intercept_dict).T  #一定要转置
params_l2=params_l2[[1,2,3]]
###行索引是alpha值,列索引是自变量名
params_l2.columns=['X1','X2','X3']  #取列名
plt.figure(figsize = (8,6))  #设置图像大小,宽12高6

###Seaborn使用行索引为X轴,每一列的数据为Y轴,绘制曲线
#列名作为示意图的标记。
sns.lineplot(data = params_l2,dashes=True)
plt.axhline(y = 0,linestyle = 'dashed',lw = 0.8,color = 'black') #绘制一条平行于x轴的直线方便观察回归系数曲线是否向0逼近
plt.xticks(alpha)  #x轴的刻度值
###对X轴进行对数转换伸缩。
plt.xscale('log')#取x的对数值来变换,若不进行变换曲线就会很丑
plt.ylim(-0.2,0.8)  #y轴的最小最大值
plt.xlim(0,1)  #x轴的最小最大值
plt.ylabel('Coeffients',size=14)  #标签
plt.xlabel('Alpha',size=14)
plt.show()

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
岭迹可以用于特征筛选,其基本思想是通过岭回归的方式对数据进行正则化,然后通过观察不同正则化参数下的系数变化情况,来判断哪些特征对模型的影响较大。具体步骤如下: 1. 对数据进行标准化处理,使得不同特征的尺度一致。 2. 使用岭回归对数据进行拟合,得到不同正则化参数下的系数。 3. 绘制岭迹,横轴为正则化参数,纵轴为系数的绝对值之和,每条曲线代表一个特征的系数随正则化参数变化的情况。 4. 观察岭迹,找到系数随正则化参数变化较为平滑的特征,这些特征对模型的影响较小,可以被筛除。 5. 根据筛选结果重新训练模型,得到更加精简的模型。 下面是一个使用Python进行岭迹特征筛选的例子: <<引用:https://blog.csdn.net/qq_36523839/article/details/103834684>> ```python import numpy as np import pandas as pd from sklearn.linear_model import RidgeCV import matplotlib.pyplot as plt # 生成随机数据 np.random.seed(0) n_samples, n_features = 100, 10 X = np.random.randn(n_samples, n_features) y = np.random.randn(n_samples) # 标准化数据 X = (X - X.mean(axis=0)) / X.std(axis=0) y = (y - y.mean()) / y.std() # 岭回归拟合 alphas = np.logspace(-3, 3, 100) coefs = [] for a in alphas: ridge = RidgeCV(alphas=[a], store_cv_values=True) ridge.fit(X, y) coefs.append(ridge.coef_) # 绘制岭迹 plt.figure(figsize=(10, 6)) ax = plt.gca() ax.plot(alphas, coefs) ax.set_xscale('log') ax.set_xlim(ax.get_xlim()[::-1]) plt.xlabel('alpha') plt.ylabel('weights') plt.title('Ridge coefficients as a function of the regularization') plt.axis('tight') plt.show() ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值