[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(12)--异常检测

最新推荐文章于 2024-11-13 22:38:09 发布
最新推荐文章于 2024-11-13 22:38:09 发布
阅读量215 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习 学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_46207392/article/details/123454491
版权

不必时时怀念我，也不要指望我回来，我离开以后，你们就是我，
Vive le peuple!

例子

以视频的例子为例
一个航天发动机有两个属性
在这里插入图片描述
好的发动机的分布如下图
在这里插入图片描述
而我们的任务是，给一个发动机，它的好坏未知，给你它的数据，判断它是否正常

如果发动机正常的概率小于某个阈值，则认为这个发动机异常
在这里插入图片描述
在这里插入图片描述

异常检测

高斯(正态)分布

图像和公式
在这里插入图片描述
在这里插入图片描述

不同参数下的高斯函数图像
在这里插入图片描述

算法实现

首先求出两个参数
在这里插入图片描述
之后将x(i)带入参数进行累乘
在这里插入图片描述
如果概率小于阈值，则为异常

实现时要注意的地方

在这里插入图片描述
判断算法执行的效能和之前不对称性分类很像
数据也和之前线性回归一样分成三部分

异常检测和监督学习

异常检测适合于那些普通算法很难学习的例子（有可能每个反例的情况不一样），推荐正例远远大于反例时使用
而监督学习的反例的特征都是相近的，推荐正反例数量级差距不大时使用
在这里插入图片描述

转化

如果一个数据的图像不符合高斯分布，我们可以通过转化将其转化为高斯分布
如下图就可以取log将其转化为高斯分布图像
在这里插入图片描述
如果现有的图像看不出异常点和正常点的区别，可以尝试增加特征进行区别
在这里插入图片描述

多变量的高斯分布

引例

这是有两个特征的高斯分布的图像
在这里插入图片描述
但是仅靠这三个图像很可能出现对异常点的误判

粉色圈为误判，蓝圈是正确的判断
在这里插入图片描述
为了解决这个问题，我们得建立一个统一的模型

公式

这是多元高斯分布的公式
在这里插入图片描述

这个玩意是sigma的行列式
在这里插入图片描述
其中
在这里插入图片描述

不同参数下的二元高斯函数的图像
其中，μ决定高斯函数的最高点在xy的坐标，Σ的对角线的元素决定图像的高度，如果对角线元素不相同则会使图像变形在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

什么时候需要使用多变量高斯分布

如果特征间的关系小时使用原始的高斯分布即可(适合于大量数据，训练集大小要求可以很小)
若特征间的关系比较大的时候应该使用多变量的高斯分布(适合于少量数据，训练集的数量必须远远大于特征数量，防止矩阵不可逆)

Dhaa_Ryan
关注
专栏目录
【斯坦福公开课-机器学习】2.监督学习应用-梯度下降（吴恩达 Andrew Ng）
Wu_Being 的CSDN 博客
05-19 286
1线性代数linear algebra 1-1 符号Notation 1-2 例子房价预测 1-3 假设函数hypothesis 1-3-1 例子中的假设函数 1-3-2 例子中的假设函数的参数 1-3-3 用线性代数-非齐次方程解释参数 1-4 求值最小化算法 1-4-1 梯度下降算法gradient descent algorithm 1-普通梯度下降算法 2-批梯度下降算法batch g
吴恩达深度学习教程——中文笔记网上资料整理
Superstar02的博客
09-27 1167
深度学习笔记目录 课程地址：https://mooc.study.163.com/university/deeplearning_ai#/c 专栏： https://blog.csdn.net/shikong_/article/category/7288516 https://blog.csdn.net/zc...
Andrew Ng-ML-第十六章-异常检测
weixin_34185512的博客
08-11 128
1.问题动机 图1.飞机发动机检测例子 对飞机引擎的例子，如果选取了两个特征x1热量产生度，x2震动强度。并得到如下的图，如果有一个新的引擎来检测其是否正常，x_test，那么此时如果点落在和其他点正常内，那么就显示是正常，不需要进一步的检测，但是如果在右下角绿色的，那么就是异常的，需要进一步地检测。 图1.密度检测 更一般地建立模型，当x_test输入时，若概率<阈...
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(1)--笔记总览
qq_46207392的博客
03-13 1478
吴恩达大佬的机器学习课程笔记
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(4)--逻辑回归
qq_46207392的博客
03-12 478
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 与之前的线性回归不同，logistic回归不会返回连续的值，它只会返回表示类型的数值（如0和1），它主要用于分类问题 使用逻辑回归的原因 如图所示，这是一个分类问题，四个点为0，其他为1 如果使用线性回归，最终的误差会非常大， 同时使用线性回归的话，结果可能会远大于0和1 逻辑回归 ...
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(5)--过拟合问题
qq_46207392的博客
03-12 195
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple!
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(13)--推荐算法
qq_46207392的博客
03-13 795
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 推荐算法大家都应该知道是什么玩意 引例 通过用户已评测电影的数据来预测其他用户对电影的评测分数 基于内容的推荐算法 计算方法 对于内容进行分析，我们知道AB喜欢爱情片，CD则喜欢动作片 现在我们获得了每个电影的成分比例（爱情内容/动作内容的比例） 我们可以将特征转化为一个特征向量 同时，我们还需要预测用户的喜好向量 就是用户对某个电影的喜欢程度(对目前来说我们可以得到此向量) 如果我们要求A对第三个电影的.
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(6)--神经网络初步理解
qq_46207392的博客
03-12 443
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 为什么会有神经网络 如果一个模型的特征过多，最后的结果很有可能出现过拟合, 同时，如果需要的分界线过于复杂的话（如上图），也不能拟合出来 神经网络 这个算法就是模仿人类大脑的神经元得来的 最简单的神经网络 x0为偏置单元，值恒为1 xi为输入端，h为激活函数 下面为比较简单的例子 复杂一点的例子 Layer1为输入层，Layer2为隐藏层，Layer3为输出层 一个复杂的计算例 神经网络的计算过程 .
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(14)--梯度下降拓展
qq_46207392的博客
03-13 1020
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 这个部分不难，就是拓展了几个梯度下降的方法而已 随机梯度下降 这是普通的线性回归的梯度下降（也叫批量梯度下降） 但是有一个问题，当它的m（训练集）数据量很大时，需要消耗很大的计算资源 所以随机梯度下降出来了 在求出损失函数后，我们将数据集随机打乱，之后每次梯度下降时只会取一个随机抽取的数据进行梯度下降 红色为批量梯度下降的学习曲线，粉色的为随机梯度下降的学习曲线 可以看出粉色的曲线非常的。。。但它大体是向最小.
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(11)--PCA与数据压缩
qq_46207392的博客
03-12 866
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 基本思想 如果数据很多，并且里面有很多数据冗余，我们就需要一个可靠的办法来将数据进行压缩 对于三维来说，压缩的方法就是将所有的点投影在一个线性平面上 PCA(主成分分析算法) 原理理解 对于二维来说，PCA就是将二维的点投影到直线上，寻找使得点到直线垂直距离的平方最小的直线 对于三维，就是寻找两个向量，让所有点到这两个向量构成的平面的垂直距离最短 与线性回归的区别 线性回归是求预测点和实际点的误差，而.
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(10)--无监督学习
qq_46207392的博客
03-12 396
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 无监督学习的概念 无监督学习从无标记的训练数据中推断结论。最典型的无监督学习就是聚类分析，它可以在探索性数据分析阶段用于发现隐藏的模式或者对数据进行分组。一句话：给定数据，寻找隐藏的结构。 例：给你一组无标记点，使用无监督算法进行分类 K-means算法 算法过程 在图中随机取多个点，这几个点就是聚类中心（有多少个点取决于你想分多少组数据） 现在进行分类，如果某点离某个聚类中心最近，那么这个点就属于那个聚类中.
机器学习之异常检测
黑黑白白君的博客
03-11 4475
#Anomaly detection（异常检测） 这是机器学习算法的一个常见应用，虽然主要用在非监督学习问题，但从某些角度看跟监督学习问题是非常相似的。 更正式的定义： 给定无标签的训练集，对数据建模即p(x)，即对x的分布概率建模，对于新样本，如果p(Xtest)低于阈值ε，则将其标记为异常。 举例： #Gaussian distribution（高斯分布） 也称为n...
史上最全机器学习资源整理
bigquant的博客
12-29 1552
机器学习资源浩如烟海，本文对机器学习资源做了相关整理，希望大家能够根据自己的细分研究领域，着重关注某些学习资源。可能某几个网页链接打不开，那说明需要“科学”上网。 机器学习也是一门实践学科，最好的学习就是不断的实践，推荐 BigQuant 人工智能量化投资 一站式的python+机器学习+量化投资平台，打开浏览器就可以使用投资数据和机器学习算法。 书籍 《Programming Collect...
机器学习资源整理（视频、书籍、链接）
DeepLabs的博客
10-14 2196
最全的机器学习资源整理（持续更新） 视频资源:吴恩达创立的深度学习学院、吴恩达的《深度学习》课程、李飞飞：如何教计算机理解图片、斯坦福大学公开课 ：机器学习课程、西安电子科技大学人工智能视频、谷歌人工智能入门、Yann Lecun深度学习公开课、MIT机器学习进阶课程等 Caffe/Tensorflow资源：prototxt网络结构可视化、Alexnet/Resnet/Letnet
机器学习基础03_特征降维&KNN算法-分类&模型选择和调优
l15202833159的博客
11-13 834
机器学习；PCA特征提取；KNN分类算法；交叉验证；超参数搜索
机器学习（基础3）
tang1389764的博客
11-13 575
获取数据、数据处理、特征工程后，就可以交给预估器进行机器学习，流程和常用API如下。
Matlab: 生成对抗网络，使用Datastore结构输入mat格式数据
最新发布
qq_22163371的博客
11-13 769
使用matlab的生成对抗网络（Generative Adversarial Network，GAN）以及条件CGAN时，案例中 的生成器的输入为图像，改为.mat格式输入遇到的问题。解决方法。
机器学习—Additional Layer Types
yn3535_的博客
11-12 391
如果你在神经网络中有多个卷积层，有时这叫卷积神经网络，为了说明卷积层，使用一维图像输入而不是二维，使用EKG，所以如果你在胸口放两个电极，你将记录如下所示的电压，与你的心跳相对应，实际上是在读取心电图信号，这些信号看起来像这样，试图诊断，如果病人有心脏问题，所以心电图信号有一个数字列表，对应于这个表面的高度，在不同的时间点，所以可能会有100个数字对应于这条曲线的高度，在100个不同的时间点，给出这个时间序列的学习任务，给这个心电图信号来分类，说这个病人是否有心脏病或一些可诊断的心脏病，以下是。
机器学习 笔记
qq_71751106的博客
11-12 357
data1=model.fit_transform(data) #使用API。max 分别是每种特征中的最小值和最大值，而 ��是当前特征值，# 导入jieba用于断词中文字符串。#sparse是否转换成三元组形式。data=[], #传入字典数据。scaled 是归一化后的特征值。
吴恩达机器学习课程周1-2笔记：模拟智能的算法探索
机器学习吴恩达系列文章是对著名机器学习专家Andrew NG课程的笔记，旨在提供对基础知识的理解和解析。文章强调了机器学习在现实生活中的广泛应用，如搜索引擎排名、照片识别、垃圾邮件过滤等，这些都是通过学习算法...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值