使用sklearn实现岭回归(ridge)

性感官方,在线文档
在线文档
注:Ridgecv 相当于自动做k折交叉验证的Ridge,忽略不学。

from sklearn.linear_model import Ridge
model_ridge = Ridge()

参数

alpha
L2正则化的权重,默认为1.0
fit_intercept
默认True,是否设置偏置
normalize
默认False 是否进行标准差标准化
copy_X
默认 False 是否进行浅复制
n_jobs
默认None(1),可使用CPU数量
solver
默认是auto,模型会根据数据的类型自动选择
共有这些算法{‘auto’, ‘svd’, ‘cholesky’, ‘lsqr’, ‘sparse_cg’, ‘sag’, ‘saga’},算法的内容百度吧。
max_iter
算法的最大迭代次数。
tol
浮点数,算法的终止条件,precision
random_state
Used when solver == ‘sag’ or ‘saga’ to shuffle the data

伊泽瑞尔看出,调参alpha就可以了。

属性

coef_
train_x各个特征的权重
rank_
train_x特征的数量
intercept_
train_x各个特征的偏置

方法

fit(x,y,sample_weight)
sample_weight是一个[],里面每个原始是每个sample的权重
get_params(deep=True)
获取模型的各个参数(非超参数,是设置的模型参数)
predict(X)
预测
score(x,y,sample_weight)
模型对x进行预测,然后将预测值与y进行比较,返回分数(r2)
set_params(参数
重设参数

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
岭回归Ridge Regression)是一种常用的线性回归方法,用于解决多重共线性问题。它的基本思想是在最小二乘法的基础上增加一个正则化项,使得模型更加稳定。在sklearn中,可以使用Ridge实现岭回归外推法。 具体实现步骤如下: 1. 导入必要的库和数据。 ```python from sklearn.linear_model import Ridge from sklearn.model_selection import train_test_split from sklearn.metrics import mean_squared_error import numpy as np # 导入数据 X = np.random.rand(100, 10) y = np.random.rand(100) ``` 2. 将数据集分为训练集和测试集。 ```python X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) ``` 3. 创建Ridge模型,设置正则化系数。 ```python # 创建Ridge模型,设置正则化系数 ridge = Ridge(alpha=0.1) ``` 4. 训练模型并进行预测。 ```python # 训练模型 ridge.fit(X_train, y_train) # 进行预测 y_pred = ridge.predict(X_test) ``` 5. 计算模型的均方误差。 ```python # 计算均方误差 mse = mean_squared_error(y_test, y_pred) print("均方误差:{:.4f}".format(mse)) ``` 完整代码如下: ```python from sklearn.linear_model import Ridge from sklearn.model_selection import train_test_split from sklearn.metrics import mean_squared_error import numpy as np # 导入数据 X = np.random.rand(100, 10) y = np.random.rand(100) # 将数据集分为训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # 创建Ridge模型,设置正则化系数 ridge = Ridge(alpha=0.1) # 训练模型 ridge.fit(X_train, y_train) # 进行预测 y_pred = ridge.predict(X_test) # 计算均方误差 mse = mean_squared_error(y_test, y_pred) print("均方误差:{:.4f}".format(mse)) ``` 输出结果: ``` 均方误差:0.0726 ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值