NTU-Coursera机器学习:Noise and Error

最新推荐文章于 2024-08-13 15:29:28 发布
最新推荐文章于 2024-08-13 15:29:28 发布
阅读量2.3k 收藏 2
点赞数 1
CC 4.0 BY-SA版权
文章标签： NTU-Coursera 噪音 错误
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/songzitea/article/details/43352083
本文探讨了在机器学习中如何处理噪音和错误，包括噪音与概率目标函数的关系、错误衡量的不同方法（如0/1错误和平方错误）、错误加权在特定场景中的应用，以及加权分类模型的概念。通过实例解释了错误率的计算和权重在影响学习算法选择中的作用。总结了在有噪声数据下机器学习模型的构建和优化策略。



噪音与概率目标函数（Noise and Probalistic Target）

实际应用中的数据基本都是有干扰的：

还是用信用卡发放问题举例子：


标记错误：应该发卡的客户标记成不发卡，或者两个数据相同的客户一个发卡一个不发卡；

输入错误：用户的数据本身就有错误，例如年收入少写一个0、性别写反了什么的。

================================================================================

<
了解本专栏 订阅专栏 解锁全文
NTU-Coursera机器学习:机器学习基石 (Machine Learning Foundations)
松子茶的专栏
03-04 5591
这门课以8周设计,分成 4个核心问题,每个核心问题约需2周的时间来探讨.每个约2个小时的录影中,每个小时为一个主题,以会各分成4到5个小段落,每个段落里会有一个后多个随堂的练习.我们在探讨每个核心问题的第二周。关于Machine Learning更多讨论与交流，敬请关注本博客和新浪微博songzi_tea.
NTU-Coursera机器学习:HomeWork 1 Q15-20
松子茶的专栏
03-01 2980
训练数据格式如下：输入有4个维度，输出为{-1，+1}。共有400条数据。 题目要求将权向量元素初始化为0，然后使用“Naive Cycle”遍历训练集，求停止迭代时共对权向量更新了几次。 所谓“Naive Cycle”指的是在某数据条目x(i)上发现错误并更新权向量后，下次从x(i+1)继续读数据，而不是回到第一条数据x(0)从头开始。该题要求使用“fixed,pre-determined random cycle”对数据进行遍历，即对400条数据进行随机排序，然后在这轮计算中始终使用这一排序，直到下一轮
8 - 机器学习中的噪音与错误（Noise and Error）
weixin_33863087的博客
04-01 340
2019独角兽企业重金招聘Python工程师标准>>> ...
noise and error
丁磊_ml的博客
08-08 1224
我们前面讲的所有东西都没有把 数据的noise 考虑进去。即都是假设x是服从未知的P(X)P(X)分布（分布不用知道），用最标准的目标函数f（f不用知道的），得到其对应的y，然后从中抽取N个数据训练模型（其他的我们数据也不知道）。 可是如果数据有noise的话，我们并不能确定我们手里的y就是正确的(即是f给的)。那我们该怎么处理呢？？方法就是认为y是一个目标分布，.即原来是
Noise 和 Error
m0_37937932的博客
05-24 452
一、有Noise 时vc bound依旧成立 在之前推导vc bound 的时候，我们假设样本空间里没有Noise，自然抽样样本中也不会有Noise。当hypothesis 的dvc有限，N足够大，Ein（h）足够小，我们就说机器有所学习。但是当样本空间中夹杂了Noise后，我们还能有这套理论的成立吗？ 解决思路：原先的target函数是确定的，对于每一个样本来说，都有唯一个标签。但现在我们可假设...
公开课 | 机器学习基石08 Noise and Error
机器学习之家
12-27 612
前面几篇通过引入 VC 理论证明了机器学习的可行性。讨论的数据都是无噪音的，但实际数据，噪音往往不可避免。 本篇是承上启下的一篇，连接了理论部分和后续具体的机器学习演算法，容易被忽略，个人觉得是非常重要的一篇。介绍了 noise 和 error 两个核心概念。讲解即便 noise 存在的情况下，绝大部分 H 和 err，VC 理论同样适用。1我理解的 VC 理论先回顾在没有 Noise 情形下的机
听课笔记（第八讲）： 噪音和错误 (台大机器学习）
Kylin-Xu的专栏
04-15 1156
· 当我们面对的问题不是完美的（无噪音）二值分类问题，VC 理论还有效吗？ 1，噪音和非确定性目标 几种错误：(1) noise in y: mislabeled data; (2) noise in y: different labels for same x; (3) noise in x: error x. 将包含噪音的y 看作是概率分布的，y ~ P(y
NTU-Coursera机器学习:Types of Learning
松子茶的专栏
02-06 2695
本节总体思路：按照输出空间类型分Y,数据标记类型分yn,不同目标函数类型分f和不同的输入空间类型分X .其中按照输出空间类型Y，可以分为二元分类，多元分类，回归分析以及结构化学习等，这个好理解，离散的是分类，连续的是回归，到是结构化的学习接触的相对较少，而相对二元分类，当然有多元分类问题。例如，美分硬币共有四种（1、5、10、25美分），输入数据为（尺寸，重量），输出集合{η}={1美分，5美分，10美分，25美分}。这是一个4分类问题。一般的讲，多元分类问题的输出可表示为： {η}={ 1, 2，···，
NTU-Coursera机器学习:机器学习的可行性 & 训练与测试
松子茶的专栏
02-07 4436
映射中最关键的点是讲抽样中橙球的概率理解为样本数据集D上h(x)错误的概率，以此推算出在所有数据上h(x)错误的概率，这也是机器学习能够工作的本质，即我们为啥在采样数据上得到了一个假设，就可以推到全局呢？因为两者的错误率是PAC的，只要我们保证前者小，后者也就小了。具体来说，假如有两个相似的备选函数h1≈h2 ,则h1与h2在D上几乎是同好或同坏的，或曰B1与B2高度相关，P[B1]与P[B2]可以合并，但Union Bound却将他们相加了。解决过分估计的问题，可以将备选函数集分类，相似的函数分在一起。关
导致机器学习失败的6种错误方法，不要一错再错！
浩天的博客
01-09 1197
当你在你的企业中实施机器学习时，要小心：一些技术营销可能会让你觉得学习非常正确，速度非常快，这是对技术不切实际的期望。事实是：在机器学习过程中必然会有错误。而且这些错误至少在一段时间内会在业务流程中被编码。结果是：这些错误可能会大规模发生,而且往往超出了人类的直接控制。   机器学习在学习过程中总会犯错。机器学习采用者需要预见到这一点，并时刻小心，不要因为IT和业务的人为错误而使事情变得更糟。...
RGB 常用颜色对照表
11-26
RGB 常用颜色对照表 从物理光学试验中得出：红、绿、蓝三种色光是其他色光所混合不出来的。而这三种色光以不同比例的混合几乎可以得出自然界所有的颜色。 如红光与不同比例的绿光混合可以得出橙、黄、黄绿等色；红光与不同比例的蓝紫光混合可以得出品红、红紫、紫红蓝；紫光与不同比例的绿光混合可以得出绿蓝、青、青绿。如果蓝紫、绿、红三种光按不同比例混合可以得出更多的颜色，一切颜色都可通过加色混合得出。由于加色混合是色光的混合，因此随着不同色光混合量的增加，色光的明度也渐加强，所以也叫加光混合。当全色光混合时则可趋于白色光，它较任何色光都明亮。
机器学习——随机森林
最新发布
weixin_62472350的博客
08-13 1332
简单介绍就是例如特征A，首先使用原始数据进行计算得到其原始预测值，之后可以进行修改该特征的数据计算噪音预测值，当噪音预测值的结果比原始预测值的结果要差得多的话说明这个特征比较重要，如果噪音预测值的结果跟原始预测值的结果差距不大甚至可能好那么一点点，说明这个特征就不怎么重要了。也就是先建立一棵树，在进行预测任务的时候，真实值是100，第一棵树预测为90，再加一棵树使得预测结果为95，继续加树使得结果为97，再继续加树使得预测值越来越靠近真实值，加树是为了提升其性能。随机森林中的树的数量。
机器学习基石2（noise和error）
weixin_39861267的博客
12-28 923
nosie and error
《deep learning》学习笔记（7）——深度学习中的正则化
10-02 5513
机器学习中的一个核心问题是设计不仅在训练集上误差小，而且在新样本上泛化能力好的算法。许多机器学习算法都需要采取相应的策略来减少测试误差，这些策略被统称为正则化。而神经网络由于其强大的表示能力经常遭遇过拟合，所以需要使用许多不同形式的正则化策略。正则化通过对学习算法的修改，旨在减少泛化误差而不是训练误差。目前有很多正则化策略，有些是向机器学习模型中添加限制参数值的额外约束，有些是向目标函数添加额外项来
机器学习理论基础 | 偏差、方差、噪声
11-17 1324
偏差度量了学习算法的期望预测与真实结果的偏离程度，即刻画了学习算法本身的拟合能力； 方差度量了同样大小的训练集的变动多导致的学习性能的变化，即刻画了数据扰动所造成的影响。 噪声则表达了在当前任务上任何学习算法所能达到的期望泛化误差的下界，即刻画了学习问题本身的难度。 偏差-方差分解说明，泛化性能是由学习算法的能力，数据的充分性和学习任务本身的难度所共同决定的，给定学习任务，为了获得好的泛化性...
机器学习中的方差、偏差和噪声
keep forward, go, go, go
07-14 2418
  机器学习算法一般都会有训练和测试的过程，而且算法在不同训练集（训练集来自同一个分布）上学得的模型，测试的结果也很可能不同。   一般来说，算法的方差衡量了训练集的变动导致的模型性能的变化，即多次训练的模型之间的性能差异性。偏差则是度量算法的期望输出与真实标记的区别，表达了学习算法对数据的拟合能力。而噪声则表示数据的真实标记与数据在数据集上标记的区别，表明算法在当前任务上能达到的测试误差的下界...
机器学习：偏差、噪声的几点认识
weixin_37076955的博客
03-20 6617
最近在看周志华老师的机器学习的书籍（俗称西瓜书）。 因为数学功底差，在理解起来困难重重，但是冥思苦想后还有自己的看法，记录一下并和大家分享讨论。 几点理解： 0.吹年之前，先说个 人们容易忽略的概念 真值！ 真值是啥玩意那，就是一个我们不知道的（有时候是我们的目标哦），但是实际存在的东西，比如测电压时的测量值和真值。 补充一下真值的概念：真值是指在一定的时间及空间(位置或状态)条件下，...
机器学习：噪声和错误
jiaolong123456的博客
11-10 4466
噪声和错误 我们之前的研究都是假设在样本数据完美，没有噪声存在的前提下进行推导的。然后得出机器能够学到东西的结论，但是，现实中噪声的存在是不可避免的。所谓的噪声就是样本中有问题的点。以银行卡发放的列子，来阐述噪声产生的原因： 样本标记错误。比如说应该发放银行卡的用户，错误的标记为不符合规定的用户。 不同的评判标准，导致噪声的产生。比如两个用户的属性状态基本一致，判定一个发放另一个不发放。 输入样本中存在噪声。也就是用户的信息输入有错误。来看一下有噪声的机器学习流程图： 那么存在噪声时机器学习还能有效果吗
机器学习中的噪音（机器学习基石）
热门推荐
qq_34993631的博客
02-01 2万+
noise的产生在机器学习中我们在独立随机抽样的时候会出现一些搞错的信息，这些错误的数据我们称之为杂讯（或者噪音  noise），一般可以归结为一下两种（以二分为例）：输出错误：1.同样的一笔数据会出现两种不同的评判  2.在同样的评判下会有不同的后续处理。输入错误：1.在收集数据的时由于数据源的随机性会出现错误（比如说，客户在填信息的时候出现的误填）noise的情况下VC维度的可用性在有nois...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值