[读书笔记]机器学习-11章-特征选择和稀疏学习

最新推荐文章于 2022-10-23 13:50:55 发布
VIP文章 最新推荐文章于 2022-10-23 13:50:55 发布
阅读量287 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/casmaster/article/details/75666326
版权

11 特征选择和稀疏学习

11.1 子集搜索和评价

定义:特征很多,选出相关的特征的过程
原因:
- 维度灾难(和10章讲的降维有关系)
- 降低学习难度

问题的难点:组合爆炸.
解决的两个环节:

如何评价子集好坏

一个特征划分样本和正本真实划分约接近,特征效果越好.
书中的例子是使用信息熵增益

gain(A)=E
最低0.47元/天 解锁文章
casmaster
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
机器学习个人笔记完整版中文
11-14
机器学习个人笔记完整版　　　　　　　　　　　　中文版
周志华《Machine Learning》学习笔记（13）--特征选择与稀疏学习
VAY-长跑
06-04 1万+
上篇主要介绍了经典的降维方法与度量学习，首先从“维数灾难”导致的样本稀疏以及距离难计算两大难题出发，引出了降维的概念，即通过某种数学变换将原始高维空间转变到一个低维的子空间，接着分别介绍了kNN、MDS、PCA、KPCA以及两种经典的流形学习方法，最后度量学习试图去学习出一个距离度量来等效降维的效果。本篇将讨论另一种常用方法–特征选择与稀疏学习。
机器学习笔记(十一)特征选择和稀疏学习
热门推荐
医疗影像检索
04-12 1万+
11.特征选择和稀疏学习 11.1子集搜索与评价 对象都有很多属性来描述，属性也称为特征（feature），用于刻画对象的某一个特性。对一个学习任务而言，有些属性是关键有用的，而有些属性则可能不必要纳入训练数据。对当前学习任务有用的属性称为相关特征（relevant feature）、无用的属性称为无关特征（irrelevantfeature）。从给定的特征集合中选择出相关特征子集的过程，称为
读书笔记《机器学习》：第十一章：特征选择与稀疏学习
iamxiaofeifei的博客
08-23 930
11.1 子集搜索与评价 11.2 过滤式选择 11.3 包裹式选择 11.4 嵌入式选择与L1正则化 11.5 稀疏表示与字典学习 11.6 压缩感知11.1 子集搜索与评价特征选择（feature selection）：从给定的特征集合中选择出相关特征子集的过程。是一个重要的数据预处理（data preprocessing）的过程。 相关特征（relevant feature） 无
特征选择与稀疏学习
cyl9413的博客
06-24 8589
第十一章   特征学习与稀疏学习https://stackedit.io/editor#1 子集搜索与评价 我们能用很多属性描述一个西瓜：色泽、根蒂、敲声、纹理、触感等！ 根蒂、敲声！ 属性⟺\iff 特征(feature)={相关特征(relevantfeature)无关特征(irrelevant)特征(feature)=\begin{cases} 相关特征(relevant
机器学习实战笔记4——主成分分析
01-21
1、机器学习导论 8、稀疏表示 2、KNN及其实现 9、核方法 3、K-means聚类 10、高斯混合模型 4、主成分分析 11、嵌入学习 5、线性判别分析 12、强化学习 6、贝叶斯方法 13、PageRank 7、逻辑回归 14、深度学习 ...
Machine-Learning-Notes:国大CS5339机器学习机器学习笔记草案
05-19
机器学习笔记NUS的CS5339机器学习机器学习笔记草稿。 请注意，该草稿目前仍不完整。到目前为止的内容1配方1.1监督学习1.1.1经验风险最小化（ERM） 1.1.2最大似然估计（MLE） 1.1.3分类损失函数1.1.4最大后验估计...
ML-crash-course-notes:Google的机器学习速成课程笔记
04-14
Google的机器学习速成课程笔记 注释每周更新一次，为期1个月。 在本课程中，我们将向， 和指导计划，感谢他们的家人。 注：所有音符编写了启发，并使用更多的研究。 注释中使用的资源将添加到每个笔记本的末尾。 第...
贝叶斯机器学习：有关贝叶斯机器学习方法的笔记本
02-03
贝叶斯机器学习笔记本 该存储库是有关贝叶斯机器学习的笔记本的集合。 以下链接通过显示了一些笔记本，以确保正确呈现公式。 依赖关系在子目录中的requirements.txt文件中指定。 。 贝叶斯线性回归简介。 用普通的...
MathematicaForPrediction：用于预测和个性化的机器学习算法的Mathematica实现
01-30
使命宣言该开源项目适用于统计和机器学习算法的Mathematica（Wolfram语言）实现，可用于数据分析，预测，预测和推荐系统。许可事项所有代码文件和可执行文件均具有GPL 3.0许可证。 有关详细信息，请参见 。 所有文档...
《机器学习》第十一章 特征选择与稀疏学习
weixin_43958728的博客
02-02 950
11.1 子集搜索与评价 相关特征：对当前的学习任务有用的特征； 无关特征：对当前的学习任务无用的特征； 冗余特征：可以被其他特诊表示的特征。 目标：找到相关特征构成的集合，实现降低维度，增加准确率的目的。 问题：如何去寻找最优的子集？如何评价子集的优良？ 子集搜索：以迭代的方式，通过不断的增加（减少）新的特征来找到最优子集。 增加：已得到子集A，未处理子集B，AUB=全集 ，A∩B=∅，从B中依...
特征选择与稀疏学习（Feature Selection and Sparse Learning）
MapleStory的博客
12-21 5628
本博客是针对周志华教授所著《机器学习》的“第11章 特征选择与稀疏学习”部分内容的学习笔记。在实际使用机器学习算法的过程中，往往在特征选择这一块是一个比较让人模棱两可的问题，有时候可能不知道如果想要让当前的模型效果更好，到底是应该加还是减掉一些特征，加又是加哪些，减又是减哪些，所以借着对这一章内容的学习，希望可以在文末解决这个疑惑。子集搜索与评价 子集搜索subset search 子集评价subs
机器学习基础（四）：特征选择与稀疏学习
zero_ling
09-25 1068
4、特征选择与稀疏学习 对一个学习任务来说，给定属性集，其中有些属性可能很关键、很有用，另一些则可能没什么用。将属性称为特征feature，则对当前学习任务有用的属性称为相关特征relevant feature，没什么用的属性称为无关特征feature selection（有一类特征称为冗余特征redundant feature，所包含的信息能从其他特征中推演出来，它很多时候不起作用，但也有时候可恰好对应完成学习任务所需的中间概念，是有益的） →获得数据后通常先进行特征选择（数据预处理过程），此后再训练学习
特征选择与稀疏学习详解
tt丫的博客
10-23 1670
对当前学习任务有用的属性从特征集合中选取出相关特征，是一种数据预处理过程。先对数据集进行特征选择，然后再训练学习器，特征选择过程与后续学习器无关。直接把最终将要使用的学习器的性能作为特征子集的评价准则，即目的是为给定学习器选择最有利于其性能的量身定做的特征子集。A、随机产生一个特征子集A'，然后计算在A'下学习器L的误差；B、如果（这个误差比之前得到的误差都要小）或者（误差差不多但是A‘中的特征数目更少），那么我们更新最终的特征子集为A’，并记下它的误差和特征数目；
node-v9.6.0-x86.msi
04-29
Node.js，简称Node，是一个开源且跨平台的JavaScript运行时环境，它允许在浏览器外运行JavaScript代码。Node.js于2009年由Ryan Dahl创立，旨在创建高性能的Web服务器和网络应用程序。它基于Google Chrome的V8 JavaScript引擎，可以在Windows、Linux、Unix、Mac OS X等操作系统上运行。 Node.js的特点之一是事件驱动和非阻塞I/O模型，这使得它非常适合处理大量并发连接，从而在构建实时应用程序如在线游戏、聊天应用以及实时通讯服务时表现卓越。此外，Node.js使用了模块化的架构，通过npm（Node package manager，Node包管理器）,社区成员可以共享和复用代码，极大地促进了Node.js生态系统的发展和扩张。 Node.js不仅用于服务器端开发。随着技术的发展，它也被用于构建工具链、开发桌面应用程序、物联网设备等。Node.js能够处理文件系统、操作数据库、处理网络请求等，因此，开发者可以用JavaScript编写全栈应用程序，这一点大大提高了开发效率和便捷性。 在实践中，许多大型企业和组织已经采用Node.js作为其Web应用程序的开发平台，如Netflix、PayPal和Walmart等。它们利用Node.js提高了应用性能，简化了开发流程，并且能更快地响应市场需求。
Python基于机器学习的分布式系统故障诊断系统源代码，分布式系统的故障数据进行分析，设计故障诊断模型，高效地分析并识别故障类别
04-29
基于技术手段（包括但不限于机器学习、深度学习等技术）对分布式系统的故障数据进行分析，设计故障诊断模型，高效地分析并识别故障类别，实现分布式系统故障运维的智能化，快速恢复故障的同时大大降低分布式系统运维工作的难度，减少运维对人力资源的消耗。在分布式系统中某个节点发生故障时，故障会沿着分布式系统的拓扑结构进行传播，造成自身节点及其邻接节点相关的KPI指标和发生大量日志异常
JavaScript前端开发的核心语言前端开发的核心语言
最新发布
04-29
javascript 当今互联网时代，JavaScript已经成为了前端开发的核心语言它是一种高级程序设计语言，通常用于网页的交互和动态效果的实现。JavaScript的灵活性以及广泛的使用使得它变得异常重要，能够为用户带来更好的用户体验。 JavaScript的特点之一是它的轻量级，它可以在网页中运行无需单独的编译或下载。这意味着网页可以更快地加载并且用户无需安装额外的软件才能运行网页上的JavaScript代码。此外，与HTML和CSS紧密结合，可以直接在HTML文档中嵌入，使得网页的开发变得非常便捷。 JavaScript具有动态性，它可以在浏览器中实时修改页面内容和样。它可以通过操作DOM（文档对象模型来动态地修改网页的结构和布局，并且可以根据用户的行为实时地响应各种事件，如点击、标悬停、滚动等。这使得开发者可以轻松地为网页添加交互性和动态效果，提供更好的用户体验。 JavaScript也是一种面向对象的语言。它支持对象、类、继承、多态等面向对象编程的概念，使得代码结构更加清晰和可维护。开发者可以创建自定义的对象和方法，对功能进行封装和复用，提高代码的可读性和可维护性。
四则运算自动生成程序安装包
04-29
四则运算自动生成程序安装包
机器学习个人笔记完整版v5.24-a4
09-18
机器学习个人笔记完整版v5.24-a4 机器学习是一门研究如何通过计算机模拟人类学习过程的学科。通过机器学习的方法，计算机可以通过数据和算法自动地从经验中学习，提高其性能。 在机器学习中，常用的学习方法包括...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值