4.机器学习 ① 术语

已于 2024-08-23 22:33:23 修改
阅读量570 收藏
点赞数
分类专栏： 人工智能入门 文章标签： 机器学习
于 2021-01-30 19:15:45 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WANGWUSHAN/article/details/113355252
版权

机器学习常用术语

1. 维度灾难（Curse of Dimensionality）

1.1 数据稀疏性（Data Sparsity）

试想一下，如果有一个分类类别为n的训练任务，当样本数据只有1个维度，只需要m个样本就可以很好地cover这个问题；而当维度增加到2时，为了实现样本的充分覆盖，可能就需要 m 2 m^2 m

了解本专栏 订阅专栏 解锁全文 超级会员免费看
机器学习术语
雪雪
02-15 896
机器学习基本概念 机器学习就是通过大量的现有数据，对模型进行训练，训练后的模型在遇到新的数据时，就可以对结果进行预测，通过预测的结果就可以知道模型的准确性，然后我们再不断调整模型参数提高模型准确率，当模型足够准确时，就可以用来根据数据预测结果。这就是机器学习这门学问的基本研究方法。 在正式学习机器学习前，首先需要了解机器学习中的常见术语，下面我们以表格中的数据作为机器学习分析的数据，对机器学习...
监督式机器学习的基本术语
qq_45627332的博客
08-11 841
监督式机器学习的基本术语 一、监督式机器学习基本概念 机器学习系统：通过学习如何组合输入信息来对未见过的数据做出有用的预测。 术语：标签和特征。 ​ 标签：是我们要预测的真实事物：y。（线性回归中的y变量） ​ 特征：是指用于描述数据的输入变量：Xi(线性回归中的{x1，x2，…，xn}变量) 术语：样本和模型 ​ 样本：是指数据的特定实例：x ​ 有标签样本具有{特征，标签}：{x,y}用于训练模型 ​ 无标签样本具有{特征，？}：{x,?}用于对新数据做出预测 ​ 模型：可将样本映射到预测标
论文 | 翻译 ——Resolving data sparsity and cold start problem in collaborative filtering ……（2019：协同过滤RS）
也许有一天我们再相逢 睁开眼睛看清楚 我才是英雄！
03-06 885
0.专有词汇 data sparsity: 数据稀疏 cold start : 冷启动 matrix factorization : 矩阵分解 knowledge base : 知识库 accuracy : 准确性 1.论文摘要
增量学习三种场景具体区分
weixin_60846255的博客
03-17 497
增量学习
推荐系统——数据稀疏度计算
大显666 的博客
02-23 1395
稀疏度
连续学习入门（二）：连续学习的三种类型
学习 & 分享 ~
11-30 4746
本文内容： 1. 介绍连续学习的三种场景：1）Task-Incremental Learning，2）Domain-Incremental Learning，3）Class-Incremental Learning 2. 对比三种场景的区别
几种常用激活函数的简介
热门推荐
kangyi411的博客
01-04 10万+
sigmod，tanh，relu，elu，prelu，leaky relu
机器学习的概念与应用领域的思维导图
03-26
二、机器学习的概念与应用领域 1.认识 ①亚瑟•塞缪尔的定义 ②汤姆·米切尔的定义 2.相关术语 数据术语 训练模型术语 获得模型后术语 3.应用领域 语音识别 计算机视觉 自然语言处理 ①自然语言分析 ②自然语言生成 ...
机器学习 周志华
weixin_43977590的博客
06-08 2305
第一章 绪论   一.基本概念    1.引言    2.基本术语     （1）    3.    4.    5. 第二章 第三章 第四章 第五章 第六章 第七章 第八章 第九章 第十章 第十一章 第十二章 第十三章 ......
数据挖掘与机器学习 1. 绪论
m0_73983707的博客
03-22 2440
大数据时代——知识贫乏数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但是又潜在有用的信息或知识的过程数据源必须是真实的、大量的、含噪声的发现的是用户感兴趣的知识发现的知识要可接受、可理解、可运用并不要求发现放之四海而皆准地知识，仅支持特定的发现问题即可从知识发现过程来看：可以把数据挖掘视为知识发现过程中的一个基本步骤，也就是数据分析环节2.⭐Fayyad数据挖掘过程主要包含七个阶段：①数据清理②数据集成③数据选择④数据变换。
稀疏文件的data run
qq_41786318的博客
09-25 486
概念 - 数据运行 http://www.reddragonfly.org/ntfs/concepts/data_runs.html
增量学习中Task incremental、Domain incremental、Class incremental 三种学习模式的概念及代表性数据集？
BetterBench的博客
07-29 1142
在持续学习领域，Task incremental、Domain incremental、Class incremental 是三种主要的学习模式，它们分别关注不同类型的任务序列和数据分布变化。
【增量学习】7种典型场景
qq_58702163的博客
07-30 2089
所有训练样本属于同一个任务，并分批到达。
Three scenarios for continual learning
柯同学要谦虚
08-23 779
Three scenarios for continual learning Standard artificial neural networks suffer from the well-known issue of catastrophic forgetting, making continual or lifelong learning difficult for machine learning. Three Continual Learning Scenarios These scenarios
CVPR 2025 | 南大提出DUCT方法：用双重知识巩固抵抗持续学习中的灾难性遗忘
最新发布
Paper weekly
03-28 834
考虑到在 exemplar-free 的设定下，无法存储旧任务的训练样本，因此需要找到新的方法来调整旧分类器，使其适应新的嵌入空间。然而，传统的深度学习方法在学习新领域时，模型的嵌入空间（embedding）和分类器（classifier）往往会过度偏向最新领域的数据，导致对之前学到的知识产生遗忘。对应了采取均匀的任务向量融合策略下的模型表现（不考虑任务间相似度信息），可以发现引入表征空间的整合过程后，模型性能大幅提升，这验证了在 DIL 任务中采用统一的表征空间这一做法的优越性。
机器学习中的维度灾难
大数据与人工智能
02-06 865
导读对于一个高维空间中的球体，将这个球的外壳去掉薄薄的一层，这个球的体积还剩原来的多少？本文以这个问题为引子，尝试探讨机器学习中的维度灾难，欢迎同行指正或拍砖。由于编辑器不支持公式编辑，公...
RandomForest中的包外误差估计out-of-bag (oob) error estimate
ybdesire的专栏
09-18 1万+
1. 引入 从RandomForest的鼻祖Breiman的comments（参考1）中，可以看到他说过：对于RandomForest的validation，没有必要像其他模型一样做cross-validation了，可以直接用RandomForest在内部就提供了out-of-bag (oob) error estimate，用这种方法就可以看出RF的训练效果了。 那我们该怎么理解out-of-bag (oob) error estimate呢？ 2. 原理：oob error estimate 首先解释
AlphaGo是如何战胜人类的？这些机器学习知识不能不懂
bozitong1996的博客
08-01 854
机器学习是人工智能领域的热门研究话题。不论是在围棋上击败人类的AlphaGo，还是人脸识别系统，机器学习在诸多领域都取得了令人瞩目的成就。总的来说，机器学习让就是计算机具有像人一样的学习和思考能力的技术。具体方法就是从已知数据中获得规律，并利用规律对未知数据进行预测或理解。本文将以通俗易懂的方式解释机器学习中的术语，旨在为广大同学打下基础、培养兴趣，为以后的深入学习做准备。 数据 数据是机器学习的...
机器学习中交叉验证概念
03-14
<think>嗯，用户让我介绍一下机器学习中的交叉验证概念。首先，我需要回忆一下交叉验证的基本定义和目的。交叉验证是一种评估模型性能和防止过拟合的技术，对吧？常见的类型有k折交叉验证、留一法这些。 接下来，我应该分步骤解释。首先得说明为什么需要交叉验证，可能因为单一的训练测试分割不够可靠，容易受到数据划分的影响。然后介绍常见的交叉验证方法，比如k折，详细说明步骤，比如分割数据为k个子集，每次用k-1个训练，1个验证，重复k次。然后提到留出法、留一法、分层交叉验证这些变种，以及它们的适用场景。 要注意用户可能不太了解技术细节，所以需要用简单的中文，避免术语堆砌。比如解释k折的时候，可以用比喻，比如把数据分成几份，轮流做测试集。同时要强调交叉验证的优点，比如更准确地评估模型，充分利用数据，尤其是数据量少的时候。还要提到缺点，比如计算成本增加。 可能用户需要知道交叉验证在实际中的应用，比如在调参或者模型选择时的作用。这时候可以举例子，比如用交叉验证来选择合适的超参数，或者比较不同模型的性能。 另外，要注意用户提到的格式要求，数学表达式用$...$，比如k折交叉验证中的误差计算可能是平均的，用公式表示。比如总误差是各次验证误差的平均，用$$...$$来写。但用户例子中显示行内公式用$...$，独立公式用$$...$$，所以要检查是否符合。 还要确保回答结构清晰，分点或分步骤，可能用序号或者小标题。可能需要先定义交叉验证，再讲目的，再讲常见方法，最后优缺点和应用。这样用户能一步步理解。 需要验证一下是否有遗漏的关键点，比如交叉验证与过拟合的关系，如何帮助模型泛化。还要注意不要混淆交叉验证和验证集的概念，明确区分训练集、验证集、测试集在交叉验证中的角色。 最后，确保语言流畅，用中文口语化的表达，但保持专业度。比如使用“举个例子”、“通常来说”这样的过渡词，让解释更自然。检查是否有技术错误，比如k折的具体步骤是否正确，留一法是不是k等于样本数的情况。 总结下来，回答的结构应该是：定义交叉验证，目的，详细步骤（特别是k折），其他变种，优点，缺点，应用场景。这样用户能全面理解，并且按照系统指令正确使用LaTeX格式。</think>好的，我将逐步介绍机器学习中的交叉验证概念： 1. **基本定义** 交叉验证（Cross-Validation）是一种评估模型泛化能力的技术，核心思想是通过重复划分数据集，减少因单次数据划分随机性导致的评估偏差。 2. **为什么需要交叉验证？** - 直接划分训练集/测试集可能存在数据分布不均衡问题 - 小数据集时单次划分容易导致评估结果不稳定 - 帮助选择超参数和比较不同模型性能 3. **最常用的$k$折交叉验证（k-Fold CV）** 具体步骤： ① 将数据集随机均分为$k$个子集（称为"折"） ② 依次选择第$i$个子集作为验证集，其余$k-1$个子集作为训练集 ③ 重复训练和验证$k$次，最终取平均性能作为评估结果 $$ \text{总误差} = \frac{1}{k}\sum_{i=1}^{k} E_i $$ 其中$E_i$表示第$i$次验证的误差 4. **常见变种方法** - **留出法（Hold-out）**：简单划分一次训练集/验证集 - **留一法（LOOCV）**：$k=n$（每个样本单独作为验证集） - **分层交叉验证**：保持每个子集的类别分布与原数据一致 - **时间序列交叉验证**：按时间顺序滚动划分 5. **关键优点** - 更充分地利用有限数据 - 降低评估结果方差 - 有效检测过拟合 - 适合小规模数据集场景 6. **局限性** - 计算成本随$k$值增加而显著上升 - 数据存在强相关性时（如时间序列）需特殊处理 - 极端划分仍可能导致偏差 **实际应用场景举例**： - 对比逻辑回归与随机森林的分类性能 - 为支持向量机选择最优核函数参数 - 在神经网络中确定早停（early stopping）时机 理解交叉验证有助于建立对模型泛化能力的客观认知，是机器学习实践中不可或缺的验证技术。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

外卖猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值