如何理解Relief算法中的猜中近邻与猜错近邻

最新推荐文章于 2021-09-20 22:13:44 发布
最新推荐文章于 2021-09-20 22:13:44 发布
阅读量467 收藏 1
点赞数 3
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lelouch13zys/article/details/113609775
版权

我真的是。。。看了90%的猜中近邻和猜错近邻，大家都是把西瓜书上的那两句话抄了下来

Relief先在xi的同类样本中寻找其最近邻xi,nh称为猜中近邻，再从xi的异类样本中寻找其最近邻xi,nm称为猜错近邻。

。。。。

废话。。我如果理解这句话我会在这儿百度吗？？？？

这句话的意思是，Relief算法是处理二分类问题的，比如，我的目标就是，把西瓜分为甜和不甜两类

如果xi是甜西瓜，猜中近邻就是甜西瓜中与他最近的那个样本，猜错近邻是不甜的西瓜中与他最近的那个样本。。。

老仙女张晚
关注
  • 3
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Relief代码
10-02
Relief 代码，很好的噪音去除工具，有什么创新想法可以自己加，MATLAB实现
relief算法的代码实现
07-26
relief
浅谈关于特征选择算法与Relief的实现
weixin_33766805的博客
07-07 2295
一、 背景 1) 问题 在机器学习的实际应用中，特征数量可能较多，其中可能存在不相关的特征，特征之间也可能存在相关性，容易导致如下的后果： 1.     特征个数越多，分析特征、训练模型所需的时间就越长，模型也会越复杂。 2.     特征个数越多，容易引起“维度灾难”，其推广能力会下降。 3.     特征个数越多，容易导致机器学习中经常出现的特征稀疏的问题，导致模型效果下降。 4....
relief算法研究
热门推荐
nma_123456的专栏
05-24 1万+
最近由于工作需要，对数据进行降维处理，通过对各种算法的研究，想寻找一种比较理想的算法，处理数据维度，达到降维的目的，对PCA进行研究，但是PCA是对当前多维数据的空间变换，无法达到物理降维的目的，因此想选择物理降维的算法，因此对卡方算法和relief算法进行相关研究，这两种算法是对数据的物理降维，是特征选择的操作算法。 通过几天的查找资料，整理和总结一下内容： 个人总结： relief算法是
特征选择基本思想与relieff算法
qq_37240982的博客
07-18 4934
特征选择 如果特征参数不足，则很容易引发数据重叠的现象，所有分类器都将不起作用；如果特征参数太多，则可能会消耗大量时间和计算资源。特征选择可以通过消除冗余的特征来提高分类算法的准确性，并减少其计算复杂度。特征选择解决的实际问题是：当存在大量特征参数时，将对分类、回归等问题贡献度高的特征参数选择出来，而舍弃一些贡献度低的特征参数。因此，特征参数选择的困难在于其核心是解决复杂的组合优化问题。 2.3.1 故障特征优选准则 （1）去除无关特征，无关特征对模型的构建没有贡献且会增加模型的复杂度。 （2）去除冗余特征
特征选择 过滤法 relief算法
04-20
输入训练集，返回该训练集中的各特征的平均权重矩阵 matlab实现 适用于有特征选择需要的人群 对分类结果影响越大的特征其权重越大 注：D为M*N的矩阵，N为标签列，若训练集中无此列需要注意添加一列0，不然最后一维...
Relief算法python实现
03-11
特征选择方法中的Relief算法，利用python实现。可用于二分类标签的特征降维。
Matlab reliefF多分类特征排序算法
06-04
Matlab reliefF多分类特征排序算法
rvyxxnxb.zip_Englishxxnx_Relief算法_relief
07-14
Relief计算分类权重，包含优化类的几个简单示例程序，部分实现了追踪测速迭代松弛算法，通过matlab代码，有较好的参考价值。
Relief特征选择_relief_Relief算法_MATLAB特征选择_特征选择
09-10
本文将深入探讨Relief特征选择算法及其在MATLAB环境中的实现。 Relief算法，全称“Relief-F”（Robust Estimation of Attributes by Locus of Error-free Cases in Feature space），是由Kira和Ratsch于1992年提出...
Relief（Relevant Features）是著名的过滤式特征选择方法
lirika_777的博客
06-30 3930
　　Relief（Relevant Features）是著名的过滤式特征选择方法，Relief 为一系列算法，它包括最早提出的 Relief 以及后来拓展的 Relief-F 和 RRelief-F ，其中最早提出的 Relief 针对的是二分类问题，RRelief-F 算法可以解决多分类问题，RRelief-F 算法针对的是目标属性为连续值的回归问题。1、原始的 Relief 算法　　最早提出的...
机器学习-特征选择
lyn5284767的专栏
08-13 1265
一，介绍 常见的特征选择方法有三类：过滤式、包裹式、嵌入式。 （1）过滤式 过滤式中最著名的方法为Relief。其思想是：现在同类中找到样本最相近的两点，称为“猜中近邻”；再从异类样本中寻找最近的两点，称为“猜错近邻”，然后用于计算某个属性的相关统计量：                                                   其中为第i个分量在j属性上的取值。...
Relief 特征选择算法简单介绍
Miracle.Zhao的博客
08-08 5953
relief算法 Relief算法最早由Kira提出，最初局限于两类数据的分类问题。Relief算法是一种特征权重算法(Feature weighting algorithms)，根据各个特征和类别的相关性赋予特征不同的权重，权重小于某个阈值的特征将被移除。Relief算法中特征和类别的相关性是基于特征对近距离样本的区分能力。算法从训练集D中随机选择一个样本R，然后从和R同类的样本中寻找最近邻样...
周志华《Machine Learning》学习笔记（13）--特征选择与稀疏学习
VAY-长跑
06-04 1万+
上篇主要介绍了经典的降维方法与度量学习，首先从“维数灾难”导致的样本稀疏以及距离难计算两大难题出发，引出了降维的概念，即通过某种数学变换将原始高维空间转变到一个低维的子空间，接着分别介绍了kNN、MDS、PCA、KPCA以及两种经典的流形学习方法，最后度量学习试图去学习出一个距离度量来等效降维的效果。本篇将讨论另一种常用方法–特征选择与稀疏学习。
Relief特征提取算法实战
Devil_B的博客
07-19 1730
简介及其演变 Relief算法最早由Kira提出，最初局限于两类数据的分类问题。Relief算法是一种特征权重算法(Feature weighting algorithms)，根据各个特征和类别的相关性赋予特征不同的权重，权重小于某个阈值的特征将被移除。Relief算法中特征和类别的相关性是基于特征对近距离样本的区分能力。算法从训练集D中随机选择一个样本R，然后从和R同类的样本中寻找最近邻样本H，称为Near Hit，从和R不同类的样本中寻找最近邻样本M，称为NearMiss，然后根据以下规则更新每个特征的
《机器学习》周志华(西瓜书)学习笔记 第十一章 特征选择与稀疏学习
sdm12345的博客
07-18 1502
机器学习 总目录 第十一章 特征选择与稀疏学习 11.1 子集搜索与评价 给定属性集，其中有些属性可能很关键、很有用，另一些 属性则可能没什么用.我们将属性称为"特征" (feature)： 对当前学习任务有 用的属性称为"相关特征" (relevant feature)、 没什么用的属性称为"无关特征" (irrelevant feature). 从给定的特征集合中选择出相关特征子集的过程，...
周志华《Machine Learning》学习笔记(13)--特征选择与稀疏学习
qq_42294928的博客
09-20 202
上篇主要介绍了经典的降维方法与度量学习，首先从“维数灾难”导致的样本稀疏以及距离难计算两大难题出发，引出了降维的概念，即通过某种数学变换将原始高维空间转变到一个低维的子空间，接着分别介绍了kNN、MDS、PCA、KPCA以及两种经典的流形学习方法，k近邻算法的核心在于k值的选取以及距离的度量，MDS要求原始空间样本之间的距离在降维后的低维空间中得以保持，主成分分析试图找到一个低维超平面来表出原空间样本点，核化主成分分析先将样本点映射到高维空间，再在高维空间中使用线性降维的方法，从而解决了原空间样本非线性分布
最近邻与K近邻算法思想
ZhangPY的专栏
08-07 4207
在关于径向基神经网络的一篇博文机器学习之径向基神经网络（RBF NN）中已经对最近邻思想进行过描述，但是写到了RBF中有些重点不够突出，所以，这里重新对最近邻和K近邻的基本思想进行介绍，简洁扼要的加以总结。 最近邻的基本思想 保存所有观察到的有标签的样本，然后对新来的测试样本，在标签样本集中找到与测试样本最接近的标签样本，然后将该标签样本作为测试样本的输出。这是一种典型的监督式学习。在
【原创】数据挖掘案例——ReliefF和K-means算法的医学应用
alad64007的博客
08-29 2097
　　数据挖掘方法的提出，让人们有能力最终认识数据的真正价值，即蕴藏在数据中的信息和知识。数据挖掘(DataMiriing)，指的是从大型数据库或数据仓库中提取人们感兴趣的知识，这些知识是隐含的、事先未知的潜在有用信息，数据挖掘是目前国际上，数据库和信息决策领域的最前沿研究方向之一。因此分享一下很久以前做的一个小研究成果。也算是一个简单的数据挖掘处理的例子。 1.数据挖掘与聚类分析概述...
Relief 算法代码
最新发布
02-11
Relief算法是一种有监督的特征选择算法，它通过计算每个特征与其他样本的相似度来评估特征的重要性。通过这种方法，Relief算法可以找出对于某个分类任务最相关的特征，从而减少特征空间的大小。 如果你需要实现...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值