SKLearn工具学习（3）

最新推荐文章于 2021-11-10 20:27:56 发布
最新推荐文章于 2021-11-10 20:27:56 发布
阅读量124 收藏
点赞数
分类专栏： Sklearn工具
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u014168855/article/details/105242002
版权

SKLearn模型选择

1.数据划分方法

在这里插入图片描述

（1）K折交叉验证

在这里插入图片描述

#KFold
import numpy as np
from sklearn.model_selection import KFold
X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])
y=np.array([1,2,3,4,5,6])
kf=KFold(n_splits=2)    # 定义分成几个组
# kf.get_n_splits(X)    # 查询分成几个组
print(kf)
for train_index,test_index in kf.split(X):
    print("Train Index:",train_index,",Test Index:",test_index)
    X_train,X_test=X[train_index],X[test_index]
    y_train,y_test=y[train_index],y[test_index]
    #print(X_train,X_test,y_train,y_test)

#GroupKFold
import numpy as np
from sklearn.model_selection import GroupKFold
X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])
y=np.array([1,2,3,4,5,6])
groups=np.array([1,2,3,4,5,6])
group_kfold=GroupKFold(n_splits=2)
group_kfold.get_n_splits(X,y,groups)
print(group_kfold)
for train_index,test_index in group_kfold.split(X,y,groups):
    print("Train Index:",train_index,",Test Index:",test_index)
    X_train,X_test=X[train_index],X[test_index]
    y_train,y_test=y[train_index],y[test_index]
    #print(X_train,X_test,y_train,y_test)
 
#GroupKFold(n_splits=2)
#Train Index: [0 2 4] ,Test Index: [1 3 5]
#Train Index: [1 3 5] ,Test Index: [0 2 4]

# stratifiedKFold：保证训练集中每一类的比例是相同的（尽量）
import numpy as np
from sklearn.model_selection import StratifiedKFold
X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])
y=np.array([1,1,1,2,2,2])
skf=StratifiedKFold(n_splits=3)
skf.get_n_splits(X,y)
print(skf)
for train_index,test_index in skf.split(X,y):
    print("Train Index:",train_index,",Test Index:",test_index)
    X_train,X_test=X[train_index],X[test_index]
    y_train,y_test=y[train_index],y[test_index]
    #print(X_train,X_test,y_train,y_test)
 
#StratifiedKFold(n_splits=3, random_state=None, shuffle=False)
#Train Index: [1 2 4 5] ,Test Index: [0 3]
#Train Index: [0 2 3 5] ,Test Index: [1 4]

（2）留一法和留P法

在这里插入图片描述

# leaveOneOut：测试集就留下一个
import numpy as np
from sklearn.model_selection import LeaveOneOut
X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])
y=np.array([1,2,3,4,5,6])
loo=LeaveOneOut()
loo.get_n_splits(X)
print(loo)
for train_index,test_index in loo.split(X,y):
    print("Train Index:",train_index,",Test Index:",test_index)
    X_train,X_test=X[train_index],X[test_index]
    y_train,y_test=y[train_index],y[test_index]
    #print(X_train,X_test,y_train,y_test)
#LeaveOneOut()
#Train Index: [1 2 3 4 5] ,Test Index: [0]
#Train Index: [0 2 3 4 5] ,Test Index: [1]
#Train Index: [0 1 3 4 5] ,Test Index: [2]
#Train Index: [0 1 2 4 5] ,Test Index: [3]
#Train Index: [0 1 2 3 5] ,Test Index: [4]
#Train Index: [0 1 2 3 4] ,Test Index: [5]

LeavePOut：测试集留下P个
import numpy as np
from sklearn.model_selection import LeavePOut
X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])
y=np.array([1,2,3,4,5,6])
lpo=LeavePOut(p=3)
lpo.get_n_splits(X)
print(lpo)
for train_index,test_index in lpo.split(X,y):
    print("Train Index:",train_index,",Test Index:",test_index)
    X_train,X_test=X[train_index],X[test_index]
    y_train,y_test=y[train_index],y[test_index]
    #print(X_train,X_test,y_train,y_test)
 
#LeavePOut(p=3)
#Train Index: [3 4 5] ,Test Index: [0 1 2]
#Train Index: [2 4 5] ,Test Index: [0 1 3]
#Train Index: [2 3 5] ,Test Index: [0 1 4]
#Train Index: [2 3 4] ,Test Index: [0 1 5]
#Train Index: [1 4 5] ,Test Index: [0 2 3]
#Train Index: [1 3 5] ,Test Index: [0 2 4]
#Train Index: [1 3 4] ,Test Index: [0 2 5]
#Train Index: [1 2 5] ,Test Index: [0 3 4]
#Train Index: [1 2 4] ,Test Index: [0 3 5]
#Train Index: [1 2 3] ,Test Index: [0 4 5]
#Train Index: [0 4 5] ,Test Index: [1 2 3]
#Train Index: [0 3 5] ,Test Index: [1 2 4]
#Train Index: [0 3 4] ,Test Index: [1 2 5]
#Train Index: [0 2 5] ,Test Index: [1 3 4]
#Train Index: [0 2 4] ,Test Index: [1 3 5]
#Train Index: [0 2 3] ,Test Index: [1 4 5]
#Train Index: [0 1 5] ,Test Index: [2 3 4]
#Train Index: [0 1 4] ,Test Index: [2 3 5]
#Train Index: [0 1 3] ,Test Index: [2 4 5]
#Train Index: [0 1 2] ,Test Index: [3 4 5]

（3）随机划分法

在这里插入图片描述

# ShuffleSplit 把数据集打乱顺序，然后划分测试集和训练集，训练集和测试集的比例随机选定，
# 训练集和测试集的比例的和可以小于1
import numpy as np
from sklearn.model_selection import ShuffleSplit
X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])
y=np.array([1,2,3,4,5,6])
rs=ShuffleSplit(n_splits=3,test_size=.25,random_state=0)
rs.get_n_splits(X)
print(rs)
for train_index,test_index in rs.split(X,y):
    print("Train Index:",train_index,",Test Index:",test_index)
    X_train,X_test=X[train_index],X[test_index]
    y_train,y_test=y[train_index],y[test_index]
    #print(X_train,X_test,y_train,y_test)
print("==============================")
rs=ShuffleSplit(n_splits=3,train_size=.5,test_size=.25,random_state=0)
rs.get_n_splits(X)
print(rs)
for train_index,test_index in rs.split(X,y):
    print("Train Index:",train_index,",Test Index:",test_index)
 
#ShuffleSplit(n_splits=3, random_state=0, test_size=0.25, train_size=None)
#Train Index: [1 3 0 4] ,Test Index: [5 2]
#Train Index: [4 0 2 5] ,Test Index: [1 3]
#Train Index: [1 2 4 0] ,Test Index: [3 5]
#==============================
#ShuffleSplit(n_splits=3, random_state=0, test_size=0.25, train_size=0.5)
#Train Index: [1 3 0] ,Test Index: [5 2]
#Train Index: [4 0 2] ,Test Index: [1 3]
#Train Index: [1 2 4] ,Test Index: [3 5]

# StratifiedShuffleSplitShuffleSplit 把数据集打乱顺序，然后划分测试集和训练集，
# 训练集额和测试集的比例随机选定，训练集和测试集的比例的和可以小于1,但是还要保证训练集中各类所占的比例是一样的
import numpy as np
from sklearn.model_selection import StratifiedShuffleSplit
X=np.array([[1,2],[3,4],[5,6],[7,8],[9,10],[11,12]])
y=np.array([1,2,1,2,1,2])
sss=StratifiedShuffleSplit(n_splits=3,test_size=.5,random_state=0)
sss.get_n_splits(X,y)
print(sss)
for train_index,test_index in sss.split(X,y):
    print("Train Index:",train_index,",Test Index:",test_index)
    X_train,X_test=X[train_index],X[test_index]
    y_train,y_test=y[train_index],y[test_index]
    #print(X_train,X_test,y_train,y_test)
 
#StratifiedShuffleSplit(n_splits=3, random_state=0, test_size=0.5,train_size=None)
#Train Index: [5 4 1] ,Test Index: [3 2 0]
#Train Index: [5 2 3] ,Test Index: [0 4 1]
#Train Index: [5 0 4] ,Test Index: [3 1 2]

2.超参数优化方法

(1)什么是超参数

在这里插入图片描述
在这里插入图片描述

(2)网格搜索穷举式优化方法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

(3)随机采样式超参数优化方法

在这里插入图片描述
在这里插入图片描述

(4)超参数空间搜索技巧

在这里插入图片描述
在这里插入图片描述

3.模型验证方法

在这里插入图片描述

(1)通过交叉验证计算得分

在这里插入图片描述

(2)对每个输入数据点产生交叉验证估计

在这里插入图片描述

(3)计算并绘制模型的学习率曲线

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

(4)计算并绘制模型的验证曲线

在这里插入图片描述

(5)通过排序评估交叉验证得分的重要性

在这里插入图片描述

4.模型预测性能评估

(1)Estimate对象的score方法

在这里插入图片描述

(2)交叉验证中使用scoring参数

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

(3)使用sklearn.metric中性能度量函数

bingxiash
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习之sklearn工具包（极限森林）
qq_41514914的博客
04-28 568
目录极限森林梯度下降梯度上升 极限森林 import numpy as np # 梯度=导数 import matplotlib.pyplot as plt # 回归是分类的极限思想 # 分类的类别多到一定程度，那么就是回归 from sklearn.ensemble import GradientBoostingClassifier,GradientBoostingRegressor from...
SKlearn工具箱matlab版
10-31
SKlearn工具箱matlab版本，可供调试，喜欢的科研下载，用于深度学习，机器学习
Sklearn（3）
热门推荐
lwj的小站
05-14 2万+
今天给大家带来的是商品预测案例： 文件描述： sales_train.csv - the training set. Daily historical data from January 2013 to October 2015. test.csv - the test set. You need to forecast the sales for these shops and prod...
sklearn-matlab:使用 scikit-learn 语法在 Matlab 中进行机器学习-matlab开发
05-29
使用 scikit-learn 语法框架的语法在 Matlab 中执行机器学习的工具箱。 安装：运行install.m 快速入门：查看 /demo 文件夹中的演示文件。 注意：这是一项正在进行的工作。 只实现了一些函数和类。 请随时通过 GitHub 存储库做出贡献。
sklearn-matlab：使用scikit-learn语法在Matlab中进行机器学习
02-03
sklearn-matlab：使用scikit-learn语法在Matlab中进行机器学习
Python 机器学习工具包SKlearn的安装与使用
04-14
Python 机器学习工具包 SKlearn 的安装与使用 Python 机器学习工具包 SKlearn 是基于 Python 语言的机器学习工具包，主要用 Python 编写，建立在 Numpy、Scipy、Pandas 和 Matplotlib 的基础上，也用 Cython 编写了...
机器学习-sklearn中文文档
03-27
sklearn，全称scikit-learn，是Python中一个非常强大的机器学习库，它提供了简单高效的工具，用于数据挖掘和数据分析。sklearn库包含了大量的算法，如分类、回归、聚类、降维、模型选择等，并且这些算法都经过了良好...
Sklearn_工具–2SKlearn介绍
01-20
SKlearn介绍一.Python科学计算环境Final二.SKlearn算法库的顶层设计1.SKlearn包含哪些模块2.SKlearn六大板块统一API2.1API2.2sklearn监督学习工作流程2.2sklearn无监督学习工作流程2.3sklearn数据预处理工作流程2.4...
基于sklearn模型的机器学习股票预测.zip
最新发布
04-28
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的...
机器学习—（sklearn工具箱机器学习算法的大致分类）
sinat_26566137的博客
06-10 855
机器学习算法分类： (具体算法选择可根据样本量大小以及下面的特征进行选择） 1.无监督算法，用于降维，作为辅助性工具的算法：PCA，SVD，Kmeans； 2.无监督算法，用于关联分析的算法：Aprior算法、隐马尔科夫（现在已经少用了，可用循环神经网络取代）； 3.有监督算法，用于分类（离散型标签）用：svm,GDBT，LR，XGBT; 4.有监督算法，用于分类（连...
sklearn常用工具箱使用
phantom66的博客
12-20 1471
一 监督学习1.1 逻辑斯蒂回归(Logistic Regression)from sklearn.linear_model import LogisticRegression clf = LogisticRegression() clf = clf.fit(X, y) result = clf.predict_proba(X_test)1.2线性支持向量机(Linear SVM)from s
sklearn matlab,【机器学习】菜菜的sklearn课堂(1-12全课).zip
weixin_36296064的博客
03-19 811
【实例简介】【机器学习】菜菜的sklearn课堂(1-12全课)，内容包含所有代码，以及讲解的课件【实例截图】【核心代码】【机器学习】菜菜的sklearn课堂(1-12全课)├── 010朴素贝叶斯│ ├── 010朴素贝叶斯.rar│ ├── Naive Bayes源码.ipynb│ └── 朴素贝叶斯 full version.pdf├── 011XGBoost│ ├── xg...
机器学习实战(一)sklearn常用工具介绍
谢小小XH
04-23 1万+
scikit-learn基本工具介绍
Macbook Matlab2017 安装机器人学工具箱（Robotic Toolbox for Matlab）
^_^妖言惑眾的博客
03-04 9455
Macbook Matlab2017 安装机器人学工具箱（Robotic Toolbook for Matlab）1、下载机器人学工具箱（release9.1版本） 1、下载机器人学工具箱（release9.1版本） 链接：机器人学工具箱官方下载地址 ...
sklearn学习笔记（2）交叉验证
BabyBirdToFly的博客
06-06 3753
link text 几种不同的CV策略生成器 cross_val_score中的参数cv可以接受不同的CV策略生成器作为参数，以此使用不同的CV算法。除了刚刚提到的KFold以及StratifiedKFold这两种对rawdata进行划分的方法之外，还有其他很多种划分方法，这里介绍几种sklearn中的CV策略生成器函数。 K-fold 最基础的CV算法，也是默认采用的CV策略​。主要的参数
卜若的代码笔记-sklearn-第三章：knn（3）-对数据进行十则交叉划分
qq_37080133的博客
06-09 212
1.主要使用sklearn的KFolder工具 from sklearn.model_selection import KFold import numpy as np data = np.array([['王大'], ['王二'], ['王三'], ['王四'],['王五'],['王六'],['王七'],['王八'],['王九'],['王十']]) label = np.array([1, 2, 3, 4,5,6,7,8,9,10]) kf = KFold(n_splits=10) num = kf
scikit-learn 实战之监督学习 3
oxuzhenyi的博客
08-01 566
scikit-learn 实战之监督学习 一、实验介绍 1.1 实验内容 监督学习（英语：Supervised learning）是机器学习中最为常见、应用最为广泛的分支之一。本次实验将带你了解监督学习中运用十分广泛的支持向量机，并学会使用 scikit-learn 来构建预测模型，用于解决实际问题。 1.2 实验知识点 支持向量机理论基础使用支持向量机进行线性分类使用支持向量机进行
scikit-learn 实战之非监督学习 4
oxuzhenyi的博客
08-04 541
主成分分析（PCA 降维） 一、实验介绍 1.1 实验内容 非监督学习（英语：Unsupervised learning）是机器学习中十分重要的一个分支。这是本实验课程的第 4 章节，将带你认识主成分分析，并学会使用 scikit-learn 完成数据降维操作。 1.2 实验知识点 主成分分析PCA 降维 1.3 实验环境 python2.7Xfce 终端ipython 终端
基于Sklearn+matlab绘制SVM决策函数
醉意丶千层梦的博客
11-10 1659
文章目录一、原理二、实现1.引包2.定义函数3.月亮数据集多项式拟合结果高斯核拟合结果4.鸢尾花数据集多项式拟合结果高斯核拟合结果三、总结四、参考 一、原理 将实例的特征向量（以二维为例）映射为空间中的一些点，如下图的实心点和空心点，它们属于不同的两类。SVM 的目的就是想要画出一条线，以“最好地”区分这两类点，以至如果以后有了新的点，这条线也能做出很好的分类。 二、实现 1.引包 import numpy as np import matplotlib.pyplot as plt from sklear
sklearn 机器学习
08-10
Sklearn（Scikit-learn）是一个用于机器学习的Python库，提供了一系列简单而有效的工具，用于数据预处理、模型选择、模型评估和模型部署等任务。它建立在NumPy、SciPy和Matplotlib等科学计算库的基础上，为用户提供...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值