机器学习某节课的笔记，特征数据的选取

最新推荐文章于 2024-09-11 21:01:07 发布
最新推荐文章于 2024-09-11 21:01:07 发布
阅读量738 收藏
点赞数 1
文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39946640/article/details/124142585
版权

把特征的维数变多，实例可能就变得很稀疏了，就越容易分类了

低维里分不了的在高维里可能就变成线性的了

高维里需要解的方程组成指数级增加（维数灾难）

方程越多，需要的数据就越多，就可能解不出来了

反正就是特征不能太多

分类性能与维数是一个先上升再下降的曲线

减维度：特征抽取，特征选择

怎么减呢？

1.选取一个准则，判据，错误概率单调

2.特征独立的时候具有可加性，独立性挺nb的

3.具有距离的某些特性

4.单调性，加入新的特征判据不减小

以上四个不一定同时满足

小总结：特征选择和降维，有个大体的画像即可

特征选择的流程：有四个主要的步骤

所有的局部最好聚合在一起不一定是全局最好的

只是记个思路，以后用到的时候再慢慢完善吧

可分性判据：基于距离的

怎么算类与类之间的距离？

基于概率

前面是特征的选择，接下来是特征的映射

把好多特征通过函数降维

Botttt
关注
如何从机器学习大量数据中选择样本
04-11
如何从机器学习大量数据中选择样本，How to correctly select a sample from a huge dataset in machine learning。
机器学习的特征选择方法要如何选取？
CDA数据分析师
12-24 370
作者 | Jason Brownlee 编译 | CDA数据分析师 特征选择是在开发预测模型时减少输入变量数量的过程。 希望减少输入变量的数量，以减少建模的计算成本，并且在某些情况下，还需要改善模型的性能。 基于特征的特征选择方法包括使用统计信息评估每个输入变量和目标变量之间的关系，并选择与目标变量关系最密切的那些输入变量。尽管统计方法的选择取决于输入和输出变量的数据类型，但是这些方法可以快...
机器学习和数据分析-pandas对数据的选取操作
weixin_39274808的博客
04-11 591
1.启动jupyter notebook 2.创建一个新的notebook 3.导入pandas 4.通过字典构建一个DataFrame对象 data = { 'name':['张三','李四','王五','赵六'], 'age':[18,19,17,20], 'height':[1.68,1.73,1.62,1.55] } df = pd.DataFrame(data...
机器学习--个人心得
weixin_69365186的博客
09-02 1375
将数据集中的对象分成多个组（簇），使得同一个组内的对象彼此相似，不同组的对象彼此相异。
机器学习之常用算法基础概念
princessyang的博客
03-10 748
一. 机器学习的流程 收集数据 准备输入数据 分析输入数据 训练算法 测试算法 使用算法 机器学习就是利用计算机根据已知的数据或经验，通过训练算法建立的模型，并使用测试数据进行评估，若得到的模型满足所需性能，则将其用于其他的测试数据，否则，通过调整算法重新建立模型并进行评估，知道达到所需的性能为止。 二、分类学习器基本操作流程 建立分类学习器的流程，有五个部分，数据导入、xxx、训练模型、比较模型、导出模型。 启动分类学习器。启动分类学习的可以直接在命令行输入“Classification Learn”
机器学习&数据挖掘笔记_16（常见面试之机器学习算法思想简单梳理）1
08-08
在机器学习领域，面试中常会涉及各种算法的理解与应用，包括朴素贝叶斯、决策树和逻辑回归等。这些算法在数据挖掘和预测模型构建中占有重要地位。 首先，朴素贝叶斯算法是一种基于贝叶斯定理的分类方法。在实际应用...
『ML』利用K-Means聚类算法对未标注数据分组——《机器学习实战》学习笔记（Ch10）
12-21
K-Means聚类算法是机器学习领域中最基础且广泛应用的无监督学习方法之一，用于对未标注数据进行分组。它的核心思想是通过迭代优化，使得每个数据点尽可能地归属于与其最近的类中心（也称为质心）所在的簇。算法的...
机器学习的数学基础笔记P1
05-21
### 机器学习中的数学基础——高等数学概览 #### 一、函数及其基本概念 **1.1 函数定义** 函数是一种特殊的对应关系，它描述了两个变量（自变量\(x\)与因变量\(y\)）之间的依赖关系，通常表示为\(y=f(x)\)。在这...
机器学习基础笔记.zip
11-07
在学习机器学习时，通常会涉及到以下几个关键步骤：数据预处理，包括数据清洗、缺失值处理、特征选择和归一化；模型选择，根据问题类型选取合适的算法；模型训练，使用训练集调整模型参数；验证与测试，通过交叉验证...
机器学习之数据准备
菜鸟朋子的博客
10-03 9510
04 | 数据准备 数据准备阶段包含从原始数据到形成最终数据集（将要被喂给模型工具的数据）的所有操作。数据准备任务可能要进行多次，没有规定的固定顺序。任务包括：表，记录和特征选择以及为了模型工具的数据清洗和转换。 -数据准备是费时间的 纽约时报的一篇文章报道，数据科学家在挖掘出有价值的“金块”之前要花费50%到80%的时间在很多诸如收集数据和准备不规则的数据的普通任务上。混乱的数据是数据科学...
如何进行特征选择？
keepreder
08-04 1万+
特征选择(排序)对于数据科学家、机器学习从业者来说非常重要。好的特征选择能够提升模型的性能，更能帮助我们理解数据的特点、底层结构，这对进一步改善模型、算法都有着重要作用。 特征选择主要有两个功能： 减少特征数量、降维，使模型泛化能力更强，减少过拟合增强对特征和特征值之间的理解    拿到数据集，一个特征选择方法，往往很难同时完成这两个目的。通常情况下，我们经常不管三七二十一，选择
机器学习测试集选取常用方法-《机器学习》周志华
Sukie_csdn的博客
03-18 1万+
0.      基本术语 数据集（data set）：记录的集合。 示例（instance）或样本（sample）：每条记录是关于一个事件或者对象的描述。 属性（attribute）或特征（feature）：反映事件或对象在某方面的表现或性质的事项。 属性值（attribute value）：属性上的取值。 训练集（training set）：训练过程中使用的数据。 学习器（learn
在实际项目中，如何选择合适的机器学习模型？
热门推荐
技术杂谈
12-27 2万+
本文来自作者 chen_h 在 GitChat 上分享 「在实际项目中，如何选择合适的机器学习模型？」，「阅读原文」查看交流实录。「文末高能」编辑 | 哈比在这个文章中，我们主要面向初学者或中级数据分析师，他们对识别和应用机器学习算法都非常感兴趣，但是初学者在面对各种机器学习算法时，都会遇到一个问题是 “在实际项目中，我到底应该使用哪种算法呢？”。这个问题的答案取决于许多的因素，其中包括：数据的维
机器学习数据集_机器学习数据集的选择
cullen2012的博客
09-10 1591
机器学习数据集 Before you is an article guide to open data sets for machine learning. In it, I, for a start, will collect a selection of interesting and fresh (relatively) datasets. And as a bonus, at the e...
机器学习+模式识别学习总结（六）——特征选择与特征提取
aibeeeee的博客
01-27 3350
一、特征提取与选择任务定义：得到实际对象的若干具体特征之后，再由这些原始特征产生对分类识别最有效、数目最少的特征。使在最小维数特征空间中异类模式点相距较远，同类模式点相距较近。 二、特征提取与选择任务的提出背景：①获得的特征测量值不多，导致提供的信息较少②获得的测量值太多，导致维度灾难(特征数目达限后，性能反而不好)③特征存在很多无用信息，或者有的有用信息不能反映本质，要通过变换才能得到更有意义的量。 二、特征选择与提取的两个基本途径 （一）直接选择法(特征选择)：直接从已获得的n个原始特征中选出d个
【机器学习】如何根据数据集选择适合的模型
duxinyuhi的专栏
10-11 4000
Is it because we have many features in our data sheet?因为我们的数据表中有很多特征吗？Or is it because the feature list does not only contain numerical data but categorical data as well?因为我们的特征里不仅包含数值数据还包含累呗数据吗？Or is
【自学笔记】支持向量机（1）
最新发布
qq_40432278的博客
09-11 1597
海森矩阵是将函数在某一点处的所有二阶偏导数组织成一个矩阵的形式，这个矩阵可以提供函数在该点局部行为的详细信息。海森矩阵也记作H▽2fxH▽2fx我们有这样的定理：若函数在任一点的海森矩阵是半正定的，那么这个函数是凸函数。
【文献阅读】Unsupervised Machine Learning for Bot Detection on Twitter
weixin_42726068的博客
09-11 394
引入新特征，并降低所提模型的复杂性，从而提高基于聚类算法的机器人识别准确性。最小化数据集维度和选择重要特征来实现的。实验证明该方法的特征可以与四种不同的聚类技术（agglomerating、k-medoids、DBSCAN 和 K-means）结合使用，以解决由缺失标签和异常值引起的机器人识别问题。通过选择排名靠前的特征并减少维度，达到了 0.99 的准确率。
台大机器学习基础课程学习笔记：机器学习定义及PLA算法
台大机器学习基础课程学习笔记 机器学习的定义是指计算机程序通过经验E，学习某些任务T，并在性能指标P下提高其性能。简单来说，就是让机器在某些方面提高（如搜索排名的质量），给机器一些数据（用户的点击数据等...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值