9 机器学习（12-14）

最新推荐文章于 2023-12-29 01:50:57 发布
最新推荐文章于 2023-12-29 01:50:57 发布
阅读量621 收藏 1
点赞数
分类专栏： 人工智能 文章标签： 人工智能 机器学习 KNN 交叉验证
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40061206/article/details/111305528
版权

文章目录

一个Agent是善于学习的，如果基于其对世界的观察，Agent能够改进执行未来任务时的性能。

本博文中Agent的目标是：从一组“输入输出”对中学习，并且能够预测新输入相对应的输出。

为什么希望Agent能学习？如果Agent的设计能够被改进，为什么设计者不以此改进为基点进行编程？有三个主要理由：

（1）设计者不能预测Agent工作时的所有情境。例如走迷宫的机器人必须学习它所遇到的所有新迷宫的布局，但是这些布局的数量是无限的。

（2）设计者不能预测随时间推移可能出现的所有变化。如预测明天股票市场价格的程序必须不断学习，以便涨跌条件发生变化时能够自我适应，而未来总会有好多未知的变化，基本也是无限的。

（3）有时程序员本身对问题的求解编程没有思路。如人善于识别其他人的面相，除非使用机器学习（Machine Learning，ML）算法，否则最好的程序员也不能编写出完成此任务的计算机程序。

1 数据科学

数据有很多类型：文本、数字、图、表、图片、视频等等。

在大数据时代或者智能时代，无论我们每天做什么、去哪里，这些记录都可以被“数据化”——手机可以追踪位置，相机可以录像，录音机可以录音…

在网上，每一次浏览器或者各种APP的使用都会留下记录，包括在社交APP上与朋友间的交流内容。但是，随着而来的侵犯隐私问题越来越多。因此，在数据科学中，保护隐私是非常重要的。

数据科学过程是由以下5个步骤不断循环而得到性能提升的：

（1）数据收集：构建数据库。

（2）数据预处理：如数据清洗、特征提取。

（3）EDA：Electronics Design Automation，电子设计自动化。

（4）机器学习：如分类、聚类（Clustering）等。

（5）可视化：将可视化的结果交给专家做【数据驱动的决策】，再将得到的数据进行收集，返回第一步，循环。

2 机器学习的定义

假设用P来评估Agent在某任务类T上的性能。若在任务T上，Agent利用经验E使得性能度量P得到了改善，就说Agent在任务T和性能P上从经验E中进行了一定程度的学习。

Agent任何部件的性能都可通过从数据中进行学习来改进。改进及其改进所用的技术依赖于四个主要因素：

（1） 要改进哪一个部件（Task）。

（2）Agent已具备什么样的预备知识。

（3）数据和部件使用什么样的表示法。

（4）对学习可用的反馈是什么。

机器学习的应用有：垃圾邮件过滤、信用卡欺诈检测、邮政编码的数字识别、检测图像中的人脸、推荐系统、搜索引擎、手写识别、场景分类等。

机器学习的跨学科领域：统计学、经济学、信号处理、工程系、生物学等等。

机器学习与统计学：

（1）统计学的方法有：假设检验、实验设计、方差分析、线性回归、逻辑回归、广义线性模型（GLM，generalized linear model）、主成分分析（PCA，Principal Component Analysis）等；

（2）机器学习的方法有：决策树、神经网络、支持向量机（Support Vector Machine， SVM）、聚类（Clustering）方法、特征选择、可视化、遗传算法等。

3 监督学习与无监督学习

学习的反馈有三种类型，这决定了如下三种主要学习类型：

（1） 在无监督学习中，在不提供显式反馈（训练集无标签）的情况下，Agent对训练集进行学习。最常见的无监督学习任务是聚类（Clustering）：在输入样例中发现有用的类集。如即便未对样例进行标注，汽车Agent也可以逐步开发“好交通日”和“差交通日”的概念。

（2）在强化学习中，Agent在强化序列——奖赏和惩罚组合的序列——中学习。例如，旅行结束时而没有得到小费将提示汽车Agent，自己有哪儿做错了；如果得到了小费将告诉Agent，它做对了某些事。这时就需要由Agent自己决定，在奖惩之前自己做的哪些动作是奖励或者惩罚的原因。

（3）在监督学习中，Agent观察某些“输入-输出”对，学习从输入到输出的映射函数。

3.1 监督学习与无监督学习的区别

给定训练集：{(x1,y1), (x2,y2),…(xn,yn)}，其中yi是标签。下图中每一行是一个训练数据，训练集中共有n个数据，每个数据的特征或维度有d个。如第一个数据x1的特征有x11、x12…x1d，标签为y1。如下：
在这里插入图片描述
监督学习与无监督学习的区别在于：前者训练模型时使用的训练集中有标签，后者训练模型时使用的训练集中无标签。

3.2 监督学习

在这里插入图片描述
看上图，数据被决策边界线（Decision Boundary）分成了两类。还有许多类似的情况，如下：
在这里插入图片描述
以上均为分类问题，有的决策边界线为直线或简单的曲线，而有的则是复杂的曲线，这也代表了分类难度的不同。

监督学习的方法有：支持向量机、神经网络、决策树、邻近算法（KNN）、朴素贝叶斯算法等等。

3.3 无监督学习

在这里插入图片描述
看上图，数据有两个维度的特征，很明显，数据自然就分成了两类，如下：
在这里插入图片描述
无监督学习的方法有：K-means、高斯混合、层次聚类、谱聚类等等。

4 K近邻算法

注意，不是所有机器学习的方法都会构建模型，如KNN（K-nearest neighbors，K近邻算法）就是非参数学习，即不需要模型，更不需要参数。KNN的核心思想是使用样本之间的差异与相似性，KNN假设相似的样本具有相似或相同的标签，KNN将所有样本放置在维度为d的空间中Rd，作为一个个的坐标点。

给定xq，去发现k个与xq最接近的样例。这称为K-最近邻查找。用NN(k, xq) 代表k个最近邻组成的集合。对于分类问题，首先找到NN(k，xq)，然后选取这些最近邻的最高得票(在二元分类中是多数票)。为了避免发生计票纠纷，总是令k为奇数。

KNN使用标准欧氏距离来定义最近邻：若现在有两个样本xi与xj，二者的欧式距离d(xi,xj)为：
在这里插入图片描述
即xi与xj的距离为二者所有维度之间的差值的平方和的根。

KNN的训练集D为一个个(x, y)对，即D={(xi, yi) | xi∈Rd, yi∈(+1, -1), i=n}，x为d维向量，每一维代表样本的一种特征。

KNN分类方法：xq为待分类的样本，设Nk(xq)为由xq的k个最近邻组成的集合，则由KNN求出的xq的标签值为最近邻集合中【k个样本的标签值求和之后的sign值】：
在这里插入图片描述
其中sign为符号函数：当x>0，sign(x)=1；当x=0，sign(x)=0；当x<0， sign(x)=-1：
在这里插入图片描述
因为训练集的标签只有两个：yi∈(+1, -1)，即样本被分为了两类。因此可以计算出xq的标签值是+1还是-1，从而将xq归在其中的一类。

下图是一个k=3的KNN例子：
在这里插入图片描述
叉叉为xq，即待分类的样本，因为k=3，所以取xq最近的三个样本，发现蓝色的圈比绿色的圈更多，就把xq分在蓝色的圈的类别。

下图显示了当k=1和k=5时，在地震数据上的k-最近邻分类的决策边界。如同参数化方法一样，非参数化方法仍然存在过拟合和欠拟合问题。1-最近邻是过度拟合，因为对右上方的黑色分离区和坐标为(5.4, 3.7)的白色点反应过大（对比右图看就明白什么意思了）。5-最近邻的决策边界是好的。如果更大的k值将出现欠拟合。
在这里插入图片描述

4.1 选择合适的k值：交叉验证

通常交叉验证可用来选择取k多大最好。

使用所谓k-折交叉验证（k-fold cross-validation）方法能够从数据中摄取更多东西，并仍然获得精确估计。

交叉验证的思想是：每个样例都担负双重责任——既作为训练数据又作为测试数据。首先，将数据划分为k个相等规模的子集，然后执行k轮次学习。在每一轮次学习中，1/k的数据被调出来作为测试集，剩余样例用作训练数据，每一轮训练都会选择不同的部分作为测试集，剩余部分作为训练集，且每次都会得到一个模型评估值（后面第七节），可以得到k个评估值，取其平均便可以得到k时的KNN算法评估。而不同的k对应着不同的评估值，这都可以在同一个训练集中得到，然后哪个k的评估最大，那针对这个训练集KNN的k值就取这个最好。

k的常用值是5和10，足以给出一个统计意义上可能更精确的估计了，代价是多花费5到10倍的计算时间。极限情况为k=n，即对训练集大小为n时做n次交叉验证，这时称之为留一交叉验证(Leave-one-out cross-validation，LOOCV)。

4.2 KNN的优缺点：

优点：

  • 简单易操作；
  • 在实际应用中表现良好；
  • 不需要建立模型、做假设、调整参数；
  • 对新的样本来说易于扩展。

缺点：

  • 存储要求极高，需要存储整个训练集；
  • 运行时间长，慢。若训练集中有n个样本，每个样本的维度有d维，则KNN的复杂度为O(n×d)；
  • 可能遇到维数灾难，即由于数据维度过大，导致算法所占用的空间、运行的时间极大。

在低维度空间且数据丰富的情况下，最近邻很起作用：可能存在足够多的近邻数据点，以致得到好的解答。但是，随着维度升高，遇到一个问题：在高维空间中，最近邻通常不很接近！

4.3 KNN的应用

1、信息检索；

2、手写数字识别；

3、推荐系统；

4、医学数据挖掘（根据类似患者的症状）；

5、一般的模式识别。

5 训练与测试

机器学习的过程：利用某种机器学习的算法，通过在训练集上不断训练，最后得到一个在测试集上表现良好的模型。如下：
在这里插入图片描述
如，训练集中有许多条关于人的数据，数据维度为每个人的收入情况、性别、年龄、家庭情况等。利用机器学习算法对训练集进行训练，最后得出一个模型。模型可以根据新的其他人的数据的各个维度进行计算，最后得出每个人的信用良好与否。

6 过拟合与欠拟合

下图为回归问题，横坐标为数据的特征，纵坐标为标签y，叉叉为数据：
在这里插入图片描述
根据上图的数据，有三种不一样的模型，分别已用不同颜色的线标出：其中蓝线模拟的最合适；绿线相当于欠拟合，对训练数据集没有学习好，而红线就是过拟合于训练数据了，这种模型在测试或实际应用中的性能往往极差，如考研时做数学模拟卷做多了，对模拟卷的题型了如指掌，每次都满分，但是一到正式考试时懵了，发现考试的新题型与自己做的模拟卷差别太大，都不会了。

7 模型评估/评价

那如何评价训练得到的模型性能的好坏？可以计算Etrain，即样本内误差（训练误差），如下：
在这里插入图片描述
上图中f为模型，等号左面的Etrain(f)，为f的样本内误差。右面的f(xi)为模型对xi的预测值，yi为xi的标签值。loss(yi, f(xi))为xi的损失函数，含义为标签与预测值的差异大小。下面是两种损失函数：

  • 分类误差：
    在这里插入图片描述
  • 最小平方损失：
    在这里插入图片描述

机器学习的目标是使Etrain(f)越小越好，即minimize(Etrain(f))。但是最终目标是模型在测试集上表现良好，即希望Etest(f)即样本外误差（测试误差或真实情况下的误差）最小。

END

流动的风与雪
关注
专栏目录
机器学习10 -- 半监督学习 Semi-supervised Learning
谢杨易的博客
09-11 1万+
1 为什么要做半监督学习 有监督机器学习已经在很多领域证明了它的有效性，比如ImageNet图像分类任务，深度学习模型早在2017年，准确率就已经超过了人类。机器学习被认为是一门数据驱动的学科，数据分为两部分，data和label。通常情况下，data是比较容易获取的，而label需要标注，要珍贵很多。比如对于图像分类任务，网络上有成千上万的图片数据，但他们大多数都是没有label标注的。 通常情况下，我们可以进行一小部分数据的标注，形成有监督数据，然后再利用好其他未标注数据。这种方法称为半监督学习。半
机器学习14 -- Transfer Learning 迁移学习
谢杨易的博客
09-13 1万+
1 总览 迁移学习的目标，是利用一些不相关的数据，来提升目标任务。不相关主要包括 task不相关。比如一个为猫狗分类器，一个为老虎狮子分类器 data不相关。比如都为猫狗分类器，但一个来自真实的猫和狗照片，另一个为卡通的猫和狗 迁移学习中包括两部分数据 source data。和目标任务不直接相关，labeled或unlabeled数据一般比较容易获取，数据量很大。可以利用一些公开数据集，比如ImageNet。又比如在机器翻译任务中，中译英数据量很大，可以作为source data target
半监督学习1
weixin_42093001的博客
10-11 232
半监督学习 监督学习（有数据集有标签） 数据集 -> 训练 -> 验证 -> 模型投入使用 无监督学习（有数据集无标签） 尝试寻找数据中的模式 如：聚类（组织成群）、异常检测（查找异常值） 无监督学习技术： 自编码 Auto encoding 主成分分析 Principle Components Analysis 随机森林 Random forests K均值聚类 K-means clustering 生成对抗网络 Generative Adversarial Networks（生成器+
小样本点云深度学习库_小样本学习(二)
weixin_29522501的博客
01-04 279
我对小样本学习的误解与困惑我们的“小样本”真的很小吗？我们似乎习惯性的拿深度学习的大量数据集训练，与人类婴儿做对比。并借此来嘲讽AI:You are not as good as me, you are loser.但，最近的一些不连贯的思考，使我开始反思，我们人类小样本真的比机器学习与深度学习小吗？然而，作为一名长期患有face blindness 的我。很难仅仅依赖图源信息完成"视觉图像上的"...
小样本点云深度学习库_域自适应小样本学习
weixin_32205057的博客
12-31 948
论文题目：Domain-Adaptive Few-Shot Learning论文地址：https://arxiv.org/abs/2003.08626小样本学习（Few Shot Learning, FSL）在深度学习领域具有重要意义，在本文中小样本学习被当作一个迁移学习（源域和目标域之间进行迁移）问题。通常来说目标域的训练样本数量较少，而且与源域的领域不同。域自适应小样本学习（Domain-ad...
笔记：基于点云的语义分割的小样本学习
weixin_46187561的博客
04-07 1419
笔记：Few-shot learning for tackling open-set generalization： 基于点云的语义分割的应用：场景理解，给点云中每一个点赋予特点的语义标签。（如自动驾驶） 小样本学习的意义：解决太过于依赖大量标定数据，减少成本；可以提高泛化能力,识别未曾见过的目标。 paper1:Few-shot 3D Point Cloud Semantic Segmentation 提出问题： rely on large amounts of labeled trai
完整版 南京邮电大学 机器学习课程教程PPT课件 1-2 机器学习简介-上课版part2（共55页）.ppt
12-18
完整版 南京邮电大学 机器学习课程教程PPT课件 9. 计算学习理论（共26页）.ppt 完整版 南京邮电大学 机器学习课程教程PPT课件 10 聚类分析（共74页）.ppt 完整版 南京邮电大学 机器学习课程教程PPT课件 12 特征选择...
机器学习12 -- 无监督学习之线性模型（clustering、PCA、MF）
谢杨易的博客
09-12 1万+
1 无监督学习总览 我们都知道，有监督数据是十分宝贵的。一般来说我们获取data很容易，但获取label却比较困难。因此，无监督学习在机器学习中十分关键。如何利用好大量的无监督数据，对于业务冷启动和持续迭代运行，都至关重要。 无监督学习大致分为 化繁为简。又包括 聚类，将无监督数据合并为一个个cluster。cluster内数据相似，cluster间数据不相似。 降维，特征提取。对无监督数据，比如图像、文本，提取特征。比如PCA、Auto-Encoder、MF 无中生有，主要就是各种生成模
机器学习13 -- 无监督学习之自监督 self-supervised
热门推荐
谢杨易的博客
09-12 1万+
1 为什么要自监督学习 self-supervised learning 自监督学习是无监督学习的一种特殊方式。我们在无监督学习中讲过了，标注label是十分宝贵的，一般需要人工打标，时间和人力成本都十分高昂。但现实中，获取无标注data确实相对比较easy的事情。我们可以在网络上爬取很多很多的文本、图片、语音、商品信息等。如何利用这些无标注data，一直以来都是无监督学习的一个重要方向。而自监督学习则给出了一种解决方案。 自监督学习通过data的一部分，来predict其他部分，由自身来提供监督信号，
【中文综述】1.小样本学习研究综述
m0_55221482的博客
09-15 724
小样本学习研究综述——阅读笔记
【点云处理之论文狂读前沿版11】—— Unsupervised Point Cloud Pre-training via Occlusion Completion
yuanmiyu6522的博客
06-12 803
OcCo有着如下的性质：记P\mathcal{P}P为3D欧式空间中的一组点云，P={p1,p2,…,pn}\mathcal{P}=\left\{p_{1}, p_{2}, \ldots, p_{n}\right\}P={p1​,p2​,…,pn​}，其中每个点pip_{i}pi​是包含坐标(xi,yi,zi)\left(x_{i}, y_{i}, z_{i}\right)(xi​,yi​,zi​)和其他特征(颜色和法向量)的向量。先从occlusion mapping o(⋅)o(\cdot)o(⋅)开始
点云深度学习
yiyayiya557的博客
10-28 1118
参考文章： 3D点云 | 基于深度学习处理点云数据入门经典：PointNet、PointNet++ https://blog.csdn.net/sinat_17456165/article/details/106596332 point cloud_李敏乐的博客_Leroy Sane-CSDN博客 https://blog.csdn.net/qq_33278989/category_7613284.html 点云深度学习系列文章，点云深度学习_oliongs的博客_fool_wenCC-CSDN博
小样本学习综述
吴建明wujianming_110117
05-05 1210
小样本学习综述 数据是机器学习领域的重要资源，在数据缺少的情况下如何训练模型呢？小样本学习是其中一个解决方案。来自香港科技大学和第四范式的研究人员综述了该领域的研究发展，并提出了未来的研究方向。 这篇综述论文已被 ACM Computing Surveys 接收，作者还建立了 GitHub repo，用于更新该领域的发展。 · 论文地址：https://arxiv.org/pdf/19...
人工智能原理学习笔记
qq_41989868的博客
07-20 1万+
人工智能原理笔记 第一章：绪论 什么是人工智能 像人一样思考 合理地思考 像人一样行动 合理地行动 左侧的定义根据与人类表现的逼真度来衡量成功，而右侧的定义依靠一个称为合理性(rationality)的理性的表现量来衡量。 一个系统若能基于已知条件“正确行事”则它是合理的。 像人一样行动–图灵测试的途径 计算机需要具有的能力： 自然语言处理(natural langua...
javaagent 使用注意
fenglllle的博客
04-17 864
最近做项目，需要实现一个agent，实现运行过程替换字节码，当笔者实现这些功能时发现还是很多注意事项的。而且字节码的替换过程如果类的属性与方法升级了，那么加载就会报错。这种做法的好处是代码无侵入，缺点也很明显，严重依赖特定的jvm版本和中间件等。javaagent实际上是JVMTI使用的技术，核心依靠Instrumentation实现。
SVM 之 算法步骤
shuoshuow的专栏
11-20 8400
没啥说的，理论都介绍完了，就上算法步骤的总结吧 4.   SVM算法流程（1）       给定训练集T={(x1,y1), (x2,y2),…, (xn,yn)} （2）       求解二次规划问题： 解得（3）       计算参数w，并选取一个正分量计算b   （4）       构造判决边界：，由此求得决策函数：  
半监督学习在机器学习中的未来趋势
最新发布
程序员光剑
12-29 898
1.背景介绍 半监督学习是一种机器学习方法，它在训练数据集中存在已标注的样本和未标注的样本的情况下，利用已标注的样本来训练模型，并且使用未标注的样本来进一步优化模型。这种方法在处理大规模数据集和稀疏数据集时具有很大的优势，因为它可以在有限的标注成本下获得更好的性能。 在过去的几年里，半监督学习已经取得了显著的进展，并且在许多应用领域得到了广泛的应用，例如图像分类、文本分类、推荐系统等。随着数据...
机器学习半监督学习
weixin_42456166的博客
07-06 1264
该方法利用带标签数据训练一个初始模型，然后使用该模型对未标记数据进行预测，并将置信度高的数据加入到标记数据中，然后重新训练模型，迭代这个过程直到模型收敛。最后，我们输出训练好的两个分类器的系数、新的标记数据集、新的标签数据和更新后的未标记数据集。该方法利用带标签数据训练一个初始模型，然后使用该模型对未标记数据进行预测，并将置信度高的数据加入到标记数据中，然后重新训练模型，迭代这个过程直到模型收敛。最后，我们输出训练好的模型系数、新的标记数据集、新的标签数据和更新后的未标记数据集。最后，我们返回预测标签。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值