［机器学习］如何选择模型－－cross validation

最新推荐文章于 2022-06-03 21:59:22 发布
最新推荐文章于 2022-06-03 21:59:22 发布
阅读量3.8k 收藏 2
点赞数
分类专栏： 机器学习 文章标签： machine learning 预测 算法 netflix dataset
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/aFeiOnePiece/article/details/44565917
版权
本文探讨了在机器学习中如何选择模型，主要关注特征选择、算法选取和参数设定。通过介绍交叉验证的概念，如使用训练数据集D_train、测试数据集D_cv，以及K折交叉验证的方法，阐述了如何评估和选择最佳模型。Andrew Ng的建议是将数据分为训练、交叉验证和测试集，并推荐使用5折或10折交叉验证来确保模型的泛化能力。
摘要由CSDN通过智能技术生成

 对于一个机器学习系统，有以下几个问题需要解决：

1，如何选择feature？

2，该选用哪个算法？

3，给这个算法设置怎样的参数？

这些问题合在一起，就是“如何选择模型”的问题。


例如：可以实现分类系统的算法有 one－vs－all logistic regression，neural network，SVM等等，我们该用哪一个。


要解决个这个问题，我们就要用不同的组合（包括算法，参数，feature）对数据D_train进行training，得到不同的model。

要对这些model做测试，需使用新的数据D_cv。然后，对model的分类预测结果做一个评价（

最低0.47元/天 解锁文章
Lesley dude
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Cross-validation
qq_42148307的博客
10-05 1004
交叉验证是一种，以评估预测模型的泛化能力和防止过拟合。与bootstrap一样，交叉验证也属于蒙特卡罗方法的家族。本文介绍了交叉验证及其相关的重采样方法。
机器学习-深嵌交叉验证(Nested Cross-Validation)
Santorinisu Blogs
02-21 2411
Section I: Code and Analyses 第一部分：代码 from sklearn import datasets from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler from sklearn.svm import SVC from...
[Machine Learning] 交叉验证（Cross Validation）
Oh_MyBug的博客
02-13 680
交叉验证（Cross Validation） 什么是交叉验证（Cross Validation） 交叉验证是一种模型验证技术，可用于评估统计分析（模型）结果在其他独立数据集上的泛化能力。它主要用于预测，我们可以用它来评估预测模型在实践中的准确度。 什么是泛化（Generalization）能力呢？ 在《[Machine Learning] 回归（Regression）》中有提到，这里简单说明一下...
规则化和模型选择（Regularization and model selection）——机器学习：交叉验证Cross validation
Norstc的博客
10-21 767
零 问题提出 在机器学习中的偏差与方差一文中提到了偏差与方差。那么在多种预测模型，如线性回归(y=θTx)，多项式回归(y=θTx^(1~m))等，应使用那种模型才能达到偏差与方差的平衡最优？ 形式化定义：假设可选的模型集合是M={M1,M2,...,Md}，比如SVM，logisitic回归都在M中。   一 交叉验证（Cross validation） 第一个任务就是从M中选择最好的...
机器学习之Validation（验证，模型选择）
HuangQinJian
02-08 1万+
对于机器学习的模型选择来说，即使只是对于二元分类，我们已经学习了很多方法，比如PLA，LR等；很多学习算法都是可迭代的，需要决定迭代次数；你可能还需要决定每一次迭代走多大，例如梯度下降；或者有很多的转换可以选择，例如线性、二次等；同时规则化又有很多的选择L1，L2；再来规则化到底要加多强的λ\lambda。况且这些选择是组合起来的，某种程度上来说是组合爆炸的，那么我们怎么做出正确的选择？ 　　那么对
【机器学习笔记】Machine Learning Fundamentals: Cross Validation（交叉验证）
春雪阁
11-04 688
首先我们有一组医疗数据，以有无心脏疾病为标准记录各个患者的特征。 然后给出一名新患者的特征信息，判断他是否得心脏疾病。 接着我们要选出一种最合适的机器学习方法。然而方法有许多种，包括logistics regression（逻辑回归）、K-nearest neighbors（最近邻算法）、support vector machine（支持向量机、SVM）等等，我们该如何从中挑选？ C...
如何使用交叉验证 Cross Validation
张张的专栏
06-07 1万+
在机器学习的相关研究中，如果是有监督的算法，需要将原始数据集分为训练集和测试集两个集合。训练集中的数据带有标签，用这些数据来训练出一个模型，告诉机器什么样的数据可以分成哪一类，然后用这个模型来预测测试集中数据的标签。然后用预测得到的标签跟真实的标签作比对，就可以得到这个模型的预测准确率，其实是考察这个模型的generalization ability（泛化能力），即，从训练集中总结出来的规律能不能
机器学习模型评估与改进: 交叉验证(cross validation)
几何君的算法天空
04-23 7643
以监督学习的众多算法为例，不管是分类还是回归，都有很多不同的算法模型，在不同的问题中，这些算法模型的表现是不同的。如何对模型的表行进行评估和改进呢？scikit learn网站给出了这样一个模型评估和改进的流程图： 首先我们再来看看模型评估的过程，在模型训练时，我们首先可以用scikit learn的model_selection模块train_test_split函数对数据划分，分为训练集合和测...
K-fold-Cross-Validation-master.zip_cross validation_k fold_k-折_k
09-21
在机器学习领域，模型的评估和优化是至关重要的步骤，其中K折交叉验证（K-fold Cross-Validation，简称K折CV）是一种常用且强大的方法。K折交叉验证可以帮助我们更准确地评估模型的泛化能力，防止过拟合或欠拟合的...
机器学习模型评估-sklearn中的评估函数
最新发布
12-23
在Python的科学计算库sklearn中，提供了多种方法来评估机器学习模型的性能。本文将深入探讨sklearn库中的评估函数，主要围绕三种主要的评估方法展开：estimator的score方法、scoring参数和metric函数。 1. **...
推荐算法之Deep&Cross模型
qq_38375203的博客
06-03 905
这算是Wide&Deep模型的一个补充吧，前面写了一篇文章推荐算法之Wide&Deep模型，本想着这两个模型合在一起写的，结果Deep&Cross模型都快写完了，断网了，没保存，只有前面的W&D模型（万字长文啊，心态炸裂）。休息了一会打算重开一个继续写吧，真的是难熬，关于前面总结的其余模型优劣点在这里就不说了，可以参考我前面的文章。还是老规矩，先上一下总体框架图吧。 关于这个模型其实就是对W&D中Wide部分进行改进的模型，前文中我们说过，W&D模型原理很简单，但是最主要的是要掌握W&D这种线性和非线性，处
机器学习-交叉验证，模型选择与调优
qq_41782791的博客
04-18 2344
1.交叉验证：让评估 模型更加准确可信 2.网格参数 通常情况下，很多参数需要手动指定，这种叫超参数。每组超参数都采用交叉验证来评估，最终选择最优参数组合来建立模型。 如果有多组超参数，则需要进行两两相互验证 用交叉验证、网格搜索，找到KNN的最优模型参数 from sklearn.preprocessing import StandardScaler from sklearn.neighbors import KNeighborsClassifier from sklearn.m.
机器学习：交叉验证和模型选择与Python代码实现
开怀的博客
04-11 838
前言：本篇博文主要介绍交叉验证（cross validation）和模型选择，首先介绍相关的基础概念和原理，然后通过Python代码实现交叉验证和模型评估以及选择。特别强调，其中大多理论知识来源于《统计学习方法_李航》和斯坦福课程翻译笔记。 1.分类器的评价 评价分类器性能的指标一般是分类的准确率，其定义是：对于给定的测试数据集（X_test），分类器正确分类的样本数与总样本数之比。 这里特别强调一下，有一种分类问题——“偏斜分类”——一般是“二分类”问题。这类问题有一个特点就是：某一类的样本数很少，例如病
Deep&Cross模型
qq_42586738的博客
02-22 949
Wide&Deep模型的提出不仅综合了“记忆能力”和“泛化能力”， 而且开启了不同网络结构融合的新思路。 所以后面就有各式各样的模型改进Wide部分或者Deep部分， 其中比较典型的就是Deep&Cross模型， 该模型针对W&D的wide部分进行了改进， 因为Wide部分有一个不足就是需要人工进行特征的组合筛选， 过程繁琐且需要经验， 2阶的FM模型在线性的时间复杂度中自动进行特征交互，但是这些特征交互的表现能力并不够，并且随着阶数的上升，模型复杂度会大幅度提高。于是乎，作者用一个
浅析机器学习中的模型选择与调参（cross validation + grid search）
Eason的博客
07-20 1万+
对于一个预测问题，同时有多种可用的模型，每种模型有多种可用的参数。如何选择一个最合适的模型？ 总题过程分为2个部分： 1.对于一个模型，如何评估该模型在特定问题上的好坏？ 2.选择了最好的模型后，如何选择最优的参数？       对于模型的评估，我们一般使用交叉验证(cross validation)来进行评估。 在这里我们使用了k折叠法，将训练集划分为相等的k份。然后从1
【模型评估与选择】交叉验证Cross-validation: evaluating estimator performance
Datawhale
07-03 3325
Learning the parameters of a prediction function and testing it on the same data is a methodological mistake: a model that would just repeat the labels of the samples that it has just seen would have ...
模型评估和超参数调整（二）——交叉验证 （cross validation）
Amy_mm的博客
04-11 1万+
读《python machine learning》chapt 6 Learning Best Practices for Model Evaluation and Hyperparameter Tuning 【主要内容】 （1）获得对模型评估的无偏估计 （2）诊断机器学习算法的常见问题 （3）调整机器学习模型 （4）使用不同的性能指标对评估预测模型 git源码地址https:/...
斯坦福大学机器学习——交叉验证（Cross Validation）
热门推荐
linkin1005的专栏
01-19 6万+
交叉验证是一种模型选择方法，其将样本的一部分用于训练，另一部分用于验证。因此不仅考虑了训练误差，同时也考虑了泛化误差。从这里可以看出机器学习、数据挖掘与传统统计学的一个重要差别：传统统计学更注重理论，追求理论的完整性和模型的精确性，在对样本建立某个特定模型后，用理论去对模型进行各种验证；而机器学习/数据挖掘则注重经验，如交叉验证，就是通过不同模型在同一样本上的误差表现好坏，来选择适合这一样本的模型，而不去纠结理论上是否严谨。
Five-fold cross-validation
08-29
Five-fold cross-validation是一种验证方法，在模型选择时用来评估不同模型的性能。它将数据集分成五个相等大小的子集，然后轮流将其中四个子集作为训练集，剩下一个子集作为验证集。这个过程重复五次，每次选择不同的验证集。最后，将五次的验证结果取平均值作为模型的评估指标。这种方法可以帮助我们选择在特定数据集上表现最好的模型。通过比较不同模型的平均结果，我们可以选择出最优的模型。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [机器学习_K折交叉验证知识详解（深刻理解版）（全网最详细）](https://blog.csdn.net/Rocky6688/article/details/107296546)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值