机器学习笔记一：关于机器学习

最新推荐文章于 2024-06-22 13:03:17 发布
最新推荐文章于 2024-06-22 13:03:17 发布
阅读量4.5k 收藏 9
点赞数 5
分类专栏： 机器学习理论 文章标签： 机器学习 模式识别
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xierhacker/article/details/53257133
版权
本文是机器学习笔记的第一部分，主要介绍统计学习方法的概论，包括统计学习的背景、方法和基本概念，如输入空间、特征空间、输出空间、联合概率分布、假设空间以及问题形式化。内容参考了《机器学习基础教程》、《模式识别与机器学习》等著作，并探讨了统计学习在数据处理和预测分析中的应用。
摘要由CSDN通过智能技术生成

这本笔记的参考书目和课程为：
《机器学习基础教程》：机械工业出版社
模式识别与机器学习(PRML)
统计学习方法:清华大学出版社,李航
Deep Learning:Ian Goodfellow,Yoshua Bengio,Aaron Counrville
斯坦福《机器学习公开课》吴恩达

之后的内容都是来源于这几本书的学习和一些反思，后面就不强调了。这里的机器学习默认是统计机器学习，后面也不再强调了。

一.统计学习方法概论

Ⅰ.背景

统计方法是从事物的外在数量上的表现去推断该事物可能的规律性。 科学规律性的东西一般总是隐藏得比较深，最初总是从其数量表现上通过统计分析看出一些线索，然后提出一定的假说或学说，作进一步深入的理论研究。当理论研究 提出一定的结论时，往往还需要在实践中加以验证。就是说，观测一些自然现象或专门安排的实验所得资料，是否与理论相符、在多大的程度上相符、偏离可能是朝哪个方向等等问题，都需要用统计分析的方法处理。
从1960年至1980年间，统计学领域出现了一场革命，要从观测数据对依赖关系进行估计，只要知道未知依赖关系所属的函数集的某些一般的性质就足够了。
60年代的四项发现:
Tikhonov, Ivanov 和 Philips 发现的关于解决不适定问题的正则化原则；
Parzen, Rosenblatt 和Chentsov 发现的非参数统计学；
Vapnik 和Chervonenkis 发现的在泛函数空间的大数定律，以及它与学习过程的关系；
Kolmogorov

最低0.47元/天 解锁文章
谢小小XH
关注
专栏目录
机器学习学习笔记.pdf
06-14
机器学习学习笔记.pdf
朴素贝叶斯算法
m0_75013835的博客
05-13 1759
实现简单，计算效率高。在一些问题上表现出色，如文本分类和垃圾邮件过滤。对缺失数据和异常数据不敏感。特征独立性假设在现实中往往不成立，这会影响分类的准确性。在处理不平衡数据集时可能表现不佳。需要对特征进行适当的选择和预处理，以提高分类性能结论朴素贝叶斯分类器是一种简单而有效的分类方法，在文本分类等领域有着广泛的应用。通过利用贝叶斯定理和特征条件独立假设，我们可以快速计算给定特征集下每个类别的后验概率，并选择后验概率最大的类别作为预测结果。
朴素贝叶斯算法（初学者实例入门）
ywj_1991的博客
05-11 5071
《老饼讲解机器学习》一、算法介绍 朴素贝叶斯是基于贝叶斯后验概率建立的模型。它用于解决分类问题。 它的主要思想是，通过历史数据，对每个类别建立经验概率公式，然后当新样本进来时，用各个类别的概率经验公式分别进行预测，最终，属于哪个类别的概率最大，就认为是哪个类别。注：为了简化，我们不一定用概率公式p(x)，也可以使用它的简化版g(x)替代它。 二、贝叶斯概率公式与判别函数 模型的关键是如何用历史数据构建类别的概率公式，贝叶斯原理恰好可以解决这个问题。 (一) 贝叶斯原理 ...
深度神经网络——什么是小样本学习？
最新发布
知来者逆的博客
06-22 1584
小样本学习是指使用极少量的训练数据来开发人工智能模型的各种算法和技术。小样本学习致力于让人工智能模型在接触相对较少的训练实例后识别和分类新数据。小样本训练与训练机器学习模型的传统方法形成鲜明对比，传统方法通常使用大量训练数据。小样本学习是为了对小样本学习有更好的直觉，让我们更详细地研究这个概念。我们将研究小样本学习背后的动机和概念，探索一些不同类型的小样本学习，并涵盖高层小样本学习中使用的一些模型。最后，我们将研究一些小样本学习的应用程序。“小样本学习”描述了训练机器学习模型的实践。
​​​​​​​【机器学习】朴素贝叶斯（Naive Bayes）
蓝色蛋黄包的博客
01-13 3937
1. 概述 贝叶斯分类算法是统计学的一种概率分类方法，朴素贝叶斯分类是贝叶斯分类中最简单的一种。 分类原理：利用贝叶斯公式根据某特征的先验概率计算出其后验概率，然后选择具有最大后验概率的类作为该特征所属的类。 之所以称之为”朴素”，是因为贝叶斯分类只做最原始、最简单的假设：所有的特征之间是统计独立的。 相关概念： （1）条件概率 条件概率(Condittional probability)，就是指在事件B发生的情况下，事件A发生的概率，用P(A|B)来表示。 表达如下： （2）...
小样本学习(Few-Shot Learning)
hellozhxy的博客
06-21 8763
本文讲解小样本学习问题的Pretraining+Fine Tuning解法。本文使用飞桨（PaddlePaddle）基于数据集实践小样本学习问题的Pretraining+Fine Tuning解法。
小样本学习——概念、原理与方法简介（Few-shot learning）
hellozhxy的博客
06-20 4387
通常，我们用 � 来表示输入数据，� 来表示监督信息， � 和 � 分别表示输入数据和监督信息的空间。一个典型的FSL任务数据则被描述为 ��=(����,����)其中：用于任务 � 的样本 ��,�� 来自一个特定的域 ，��={��，�(��)} ，由数据空间 �� 和边际概率分布 �(��) 组成。通常，在 ���� 中有 � 个任务类，每个类只有 � （非常小，例如1、5）个样本，即 ���� = �� ，这也称为C-way,K-shot任务。
机器学习总结笔记
m0_46926492的博客
02-10 1434
机器学习总结 1.分类模型 1.1KNN算法 k-邻近算法采用测量不同特征值之间的距离方法进行分类(k-Nearest Neighbor，KNN) 超参数(n_neighbors=k) API from sklearn.neighbors import KNeighborsClassifier knn=KNeighborsClassifier(n_neighbors=6) knn.fit(x_train,y_train) 寻找最优值【学习曲线&交叉验证】 from sklearn.
机器学习笔记 - 了解机器学习中的小样本(Few-Shot)学习
学以致用 知行合一
06-26 952
小样本学习 （FSL） 是一种机器学习框架，它使预训练模型能够对新类别的数据（预训练模型在训练期间未见过的数据）进行泛化，每个类仅使用几个标记样本。它属于元学习的范式（元学习意味着学习学习）。机器学习笔记 - 什么是元学习？元学习，也称为“学习的学习”，是计算机科学中机器学习的一个子集。它用于通过根据实验结果改变学习算法的某些方面来提高学习算法的结果和性能。元学习帮助研究人员了解哪些算法从数据集中生成最好/更好的预测。元学习算法使用学习算法的元数据作为输入。
机器学习-小样本情况下如何机器学习
计算之道的博客
11-16 408
交叉验证，顾名思义，就是重复的使用数据，把得到的样本数据进行切分，组合为不同的训练集和测试集，用训练集来训练模型，用测试集来评估模型预测的好坏。首先，我们随机的将样本数据分为两部分（比如：70%的训练集，30%的测试集），然后用训练集来训练模型，在测试集上验证模型及参数。第三种是 留一交叉验证（Leave-one-out Cross Validation），它是第二种情况的特例，此时S等于样本数N，这样对于N个样本，每次选择N-1个样本来训练数据，留一个样本来验证模型预测的好坏。否则就用S折交叉验证。
西瓜书机器学习的学习笔记（十分详细）
06-10
学习了机器学习的基础以及相关理论，颇有收获，并做了相关笔记，对于机器学习有了更为深入的理解，为以后的学习以及研究打下基础。 主要内容包含以下相关主题： - 模型的评估与选择 - 神经网络 - 支持向量机 - ...
《机器学习-周志华》学习笔记
10-17
为了训练一个真正有效、优化的模型，需要学习一下机器学习的理论知识。周志华的教材非常经典，但概念较多，特别是前两章，在学习中作了笔记，现分享出来，希望能有帮助。
嵩天教授机器学习笔记整理
07-02
机器学习笔记整理 机器学习是人工智能的一个分支，通过训练数据集，使得机器可以自动地学习和改进其性能。本笔记将对机器学习的分类、监督学习、无监督学习、强化学习和深度学习等概念进行详细的介绍。 机器学习...
黑马python机器学习入门笔记
08-21
《黑马Python机器学习入门笔记》是一份针对初学者编写的指南，旨在帮助读者掌握Python语言在机器学习领域的基本应用。这份笔记将带你踏入这个充满无限可能的领域，通过Python这门易学且强大的编程语言，开启你的数据...
小样本学习(few-shot learning)介绍
Bluebro的博客
04-10 1万+
小样本学习（few-shot learning，FSL）旨在从有限的标记实例（通常只有几个）中学习，并对新的、未见过的实例进行识别。首先，在FSL设置中，通常有三组数据集，包括支持集S、查询集Q和辅助集A。S中的实例类别已知，Q中实例类别未知但一定属于S，S和A的实例类别一定不相交，即S中的类别一定不会出现在A中。 FSL任务通常被设定为 N-way K-shot 的形式，其中N是类别的数量，K是每个类别中标记的样本数量，表示支持集 S有N个类，每个类有K个标记样本。N通常为5。K通常设为1或5
【机器学习一百问 01】 迁移学习和小样本学习的本质不同是什么？
原来也有北瓜
01-10 900
总结来说，迁移学习强调的是从其他任务中学到的知识如何应用到新任务上，而小样本学习侧重于在极少量的数据上实现有效学习的策略和方法。尽管它们在某些应用中可能会重叠，但它们的出发点和解决问题的方法各有不同。注: 这些只是个人理解，如有质疑可提问讨论！
如何使用机器学习在一个非常小的数据集上做出预测
热门推荐
deephub
07-11 1万+
朴素贝叶斯是一系列简单的概率分类器，它基于应用贝叶斯定理，在特征之间具有强或朴素的独立假设。它们是最简单的贝叶斯模型之一，但通过核密度估计，它们可以达到更高的精度水平。 朴素贝叶斯基于贝叶斯定理，该定理根据可能与事件相关的条件的先验知识来描述事件的概率。这方面的一个例子是，一个人的健康问题可能与他的年龄有关。因此，贝叶斯定理允许通过对已知年龄个体的年龄进行调节来更准确地评估其风险，而不是假设该个体是整个群体的典型。 根据在线百科全书维基百科，贝叶斯定理引用如下。贝叶斯定理在 Udacity 的机器学习入门课
小样本学习--few-shot learning
weixin_45524534的博客
05-19 219
小样本机器学习的本质是：经验风险最小值点◆不可靠。可以从三个角度考虑解决方法：数据、模型和算法，即从数据角度基于先验知识增加标签数据数量，从模型角度基于先验知识限制假设空间的复杂度，从算法角度基于先验知识设计在假设空间中搜索算法（图1）。数据、模型和算法是相辅相成的。出版专著：《小样本机器学习Python算法与实践》解决痛点：垂直领域小样本问题、人工智能落地问题。作者：垂直领域人工智能工程师。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值