[machineLearning]非监督学习unsupervised learning

最新推荐文章于 2024-05-02 21:17:26 发布
最新推荐文章于 2024-05-02 21:17:26 发布
阅读量594 收藏 1
点赞数
分类专栏： 机器学习 文章标签： 学习 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_62697030/article/details/132720230
版权

1.什么是非监督学习

常见的神经网络是一种监督学习,监督学习的主要特征即为根据输入来对输出进行预测,最终会得到一个输出数值.而非监督学习的目的不在于输出,而是在于对读入的数据进行归类,选取特征,打标签,通过对于数据结构的分析来完成这些操作, 很少有最后的输出操作.

从训练数据的角度来说也是有所区别:监督学习的训练数据为(x,y), 即同时具有输入和输出数值,根据这种输入和输出来判断训练的结果是否正确.

但是非监督学习的数据只有输入数据(x),或者说非监督学习就是要处理这些数据,然后随着新的数据加入再不断进行修改,完成对数据特征提取和区分的要求.

把相同的数据进行归类,这就是非监督学习所作的事情.

下面将介绍两种常用的非监督学习算法:聚类分析和异常检测

本文中需要一定的概率论/高中概率的前置知识

2.聚类算法 k-means

(1)什么是聚类分析

俺举个简单点例子,比如说我们有两个维度的特征值x1 x2,这个时候我们根据特征值把数据点描绘在图片上.

可以很明显地看到,因为各自的特征不同和相似,我们最终可以把原本的数据集合分成两个集群聚类(cluster),我们的目的就是通过算法找到这两个聚类究竟有多少成员,有哪些成员

其中一种古老但是经典的早期算法K-means可以用来解决这个问题

(2)K-means算法

在具体解释这个算法之前,要说明一个概念:集群质心 cluster controids,集群质心代表这些集群的一个中心点.

1.Kmeans的算法第一步就是按照人为的需求,随机分配多个集群质心

2.然后将每个点分配给距离自己最近的质心,组成一个集群

3.集群中的点通过特征值平均,算出一个中心点位置,然后把这个集群的质心移动到这个位置

4.重复 2 3 两个步骤,直到最后质心的距离不发生改变,即可视为集群操作完成

下面将将会使用图片来进行说明,我们一共有三十个数据点,按照特征值划分开

 随机分配两个质心(这里假设我们需要的是划分出两个集群,然后接下来是对每个数据点进行归类,将其分配给某个群(严格来说是和距离自己最近的质心打上同样的标记) 

将多个数据点分配到具体的集群以后,这个时候暂时就先不用到集群质心cluster controids了

对于每一个集群,我们通过各个分量之间计算平均点的方式,计算出这个集群的集群质心应该在什么位置上

然后将集群质心移动到对应的点上

 重复以上两个步骤,最终实现集群质心的固定,到这种程度就可以认为规定数目的集群已经按照要求划分完成

 (3)聚类算法的优化

忘记说明一点,kmeans算法的初始化,随机分配集群质心,一般是直接在已有的数据点中生成,而不是真的凭空捏造一个(hhhh).但是不同的随机选取结果,最终可能会导致不同的集群划分结果,甚至可能造成unconverge不收敛现象.

类似监督学习中的代价函数,这里我们同样是存在代价函数,只不过计算方法有一点点区别

Kmeans的代价函数如下

J=\frac{1}{m}\sum \left \| x^{i}-\mu _{c^{i}}^{} \right \|^2

c^{i}:代表的是第i个数据点所在的群

\mu:代表的是某个群的集群质心

所以这个公式的解释就是:所有点到他们各自所在群的集群质心的距离的二范数(空间距离)的平均值

在比较不同集群算法结果的时候,计算代价函数是比较合理的比较方法

而聚类算法的优化,也是期望代价函数能够降到最低

另外要说的是,不合理无法归一的情况是客观存在的,结局办法有很多,比如重新进行随机点的选取,但是kmeans毕竟还是比较早期的算法.可以选用其他算法或者其他改进模式,这里就不进行赘述了

3.异常检测算法 anomal detect

异常检测算法通常用于一些特殊的情况,  比如一些物体的识别,比如水果,可以按照重量,色泽等等特征来做区分,或者珍珠可以按照半径,色泽等等方式来判断一个珍珠是好是坏.正所谓幸福千篇一律,苦难各有不幸.

我们所遵从的原则是"群体原则",即为服从大多数,大多数具有相同特征的人被称之为正常.

所以因为这样,我们要使用高斯分布这一特性

这个玩意我觉得大多数人应该在高中或者是大学的概率论课程中接触过,在异常检测算法之中,我们会对每一个分量进行高斯分布计算

假设某一批数据有很多特征值

x_{1}^{}=\left ( x_{1}^{(1)},x_{1}^{(2)},....,x_{1}^{(n)} \right )  

x_{2}^{}=\left ( x_{2}^{(1)},x_{2}^{(2)},....,x_{2}^{(n)} \right )

.............................................................

x_{m}^{}=\left ( x_{m}^{(1)},x_{m}^{(2)},....,x_{m}^{(n)} \right )

对于每一个分量,例如这个矩阵的第一列,即每个样本的第一个特征值,对于这些数据我们需要计算出方差和平均值,然后就能构建出一个分量的高斯式子

P(x1)=gauss(x1,\mu 1,\sigma ^{2}1)

然后对于整体的输入数据来说,某个数据xi想要判断是不是"异常",只需要计算这个向量的高斯数值

P(\chi )=P(x1 )*P(x2 )*.....*P(x3 )   (注意一个很有趣的地方,就算这些特征值可能不是独立的,我们这个式子仍然是成立的)

然后通过这样子,判断该数据向量的高斯分布数值是否大于某个阀值,即可直到是不是属于"大多数"

P(\chi )>=\varepsilon ?

(2)注意事项

1.在训练的时候,训练数据必须全是正常的数据,测试集合中需要包含一些

2.有些特征可能并不是高斯分布,需要我们对数据进行适当的方所处理

3.不是二维分布不是二维聚类!二位聚类是根据两种不同的特征值划分出两种截然不同的集群,两个群中的元素则都有各自相同的部分.

而异常检测不一样,异常检测做到的是区分"大多数"和"异端"

ChatMed
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Unsupervised Fault Diagnosis with Machine Learning Methods
05-14
介绍了无监督学习在工业过程中的应用，特别是在系统监视和错误诊断中的应用。
【Machine Learning 系列】一文带你详解什么是无监督学习(Unsupervised Learning)
陈橘又青的博客
07-18 1万+
无监督学习在聚类、降维和关联规则挖掘等问题上有广泛应用，为我们理解数据和解决实际问题提供了有力的工具和方法。随着数据规模的不断增大和应用场景的不断扩展，无监督学习将在各个领域发挥越来越重要的作用。
机器学习、监督学习、非监督学习、强化学习、深度学习、迁移学习
热门推荐
明月清风
12-01 2万+
文章目录机器学习（machine learning）监督学习（supervised learning）非监督学习（unsupervised learning）强化学习（reinforcement learning）传统机器学习深度学习 （deep Learning）迁移学习 （transfer learning） 机器学习（machine learning） 机器学习的主要任务： 分类（cla...
人工智能基础概念2：机器学习中的监督学习和非监督学习
老猿Python
03-25 1064
机器学习根据训练数据是否标注分为监督学习和非监督学习，监督学习按标注的数据是否连续细分为分类和回归，非监督学习按用途可分为聚类和降维，不同的学习方式适合不同的应用场景。
简述机器学习与深度学习的各自优缺点_Unsupervised Machine Learning无监督学习方法简述、深度学习及强化学习...
weixin_36483061的博客
01-12 2050
Unsupervised Machine Learning 无监督学习方法简述 及 深度学习（Deep Learning）、强化学习（Reinforcement Learning）简介（I）Unsupervised Machine Learning 无监督学习无监督学习最大的特点就是没有label，最典型的方法就是聚类（Clustering），另外还有主成分分析法（Prcincipal Compo...
Unsupervised Machine Learning in Python [2016]
07-10
LazyProgrammer, "Unsupervised Machine Learning in Python: Master Data Science and Machine Learning with Cluster Analysis, Gaussian Mixture Models, and Principal Components Analysis" 2016 | ASIN: B01G1HH5T4 | 56 pages | EPUB | 1 MB
机器学习入门（九）：非监督学习：5种聚类算法+2种评估模型
OldDriver1995的博客
05-06 1万+
聚类算法(Clustering Algorithms)常用于进行非监督学习（unsupervised learning)，即它处理的是没有事先标记分类的数据。一共介绍五种常见聚类算法: K-means Hierarchical GMM DBSCAN(基于密度的聚类算法） 基于网格Grid的聚类算法 距离公式 在了解聚类算法如何实现之前，需要先了解几种常见的距离计算公式，因为聚类算法会通过距离判断两...
非监督学习简单介绍
百年孤独百年的博客
04-27 1653
非监督学习是机器学习中的一种方法，其目标是基于数据的内在结构和关系，从而在无标签数据中识别样本的潜在结构和模式。非监督学习的目的是发现未知结构，无需使用任何预先定义的目标变量，这与监督学习的目标相反。非监督学习的主要方法包括聚类、降维等技术。
五、非监督学习
星辰的博客
09-18 792
首先，给定二维空间上的一些样本点，接下来，初始化K个中心点，并根据中心点的位置计算每个样本所属的簇；然后根据每个簇中的所有点的平均值计算新的中心点位置；在经过n轮的迭代之后，算法基本收敛。
【机器学习】什么是非监督学习？
m0_51816252的博客
06-20 1981
聚类算法，它是一种非监督学习算法，在没有标签的情况下获取数据，并尝试将他们自动分组到集群中。处理聚类算法，还有其他的非监督学习算法。 在监督学习中，数据包含输入x和输出标签y， 在非监督学习中，数据只包含输入x,但不输出标签y。 算法必须在数据中找到一些结构或模式 或者有趣的东西。...
非监督学习
weixin_41675900的博客
10-21 1218
想比于监督学习，非监督学习的输入数据没有标签信息，需要通过算法模型来挖掘数据内在的结构和模式。非监督学习主要包含两大类学习方法：数据聚类和特征变量关联。其中，聚类算法往往是通过多次迭代来找到数据的最优分割，而特征变量关联则是利用各种相关性分析来找到变量之间的关系。 1 K均值聚类 支持向量机、逻辑回归、决策树等经典的机器学习算法主要用于分类问题，即根据一些已给定类别的样本，训练某种分类器，使得它能够对类别未知的样本进行分类。 与分类问题不同，聚类是在实现并不知道任何样本类别标签的情况下，通过数据之间的额内在
Statistics for Machine Learning
08-01
Pratap Dangeti, "Statistics for Machine Learning" English | ISBN: 1788295757 | 2017 | EPUB | 311 pages | 12 MB Key Features Learn about the statistics behind powerful predictive models with p-value, ...
无监督学习入门 Hands-On Unsupervised Learning Using Python
10-25
Hands-On Unsupervised Learning Using Python How to Build Applied Machine Learning Solutions from Unlabeled Data Ankur A. Patel
Machine Learning in Python
05-28
英文原版
JAVA 学习·泛型（二）——通配泛型
最新发布
wr114514的博客
05-02 651
介绍了Java泛型中的重要知识点——通配泛型及其应用。
限流的学习
weixin_43675252的博客
05-01 261
限流算法：滑动窗口算法滑动日志算法漏桶算法令牌桶算法。
Build a Large Language Model (From Scratch) 从头开始构建大型语言模型(第二章)学习笔记
Czi.的博客
04-29 1006
LLM需要将文本数据转换为数值向量，称为嵌入，因为它们无法处理原始文本。嵌入将离散数据（如单词或图像）转换为连续向量空间，使它们与神经网络操作兼容。第一步，将原始文本分解为tokens，这些tokens可以是单词或字符。然后，tokens被转换为整数表示形式，称为token IDs。可以添加特殊tokens（例如和）来增强模型的理解并处理各种上下文，例如未知单词或标记(marking)不相关文本之间的边界。
力扣数据库题库学习（4.28日）--1587. 银行账户概要 II
Jesse_Kyrie的博客
04-28 236
对于力扣题1587. 银行账户概要 II的解答，提供解题思路与解题方法，知识点为:1. GROUP BY 2. SUM 3. LEFT JOIN 4. HAVING
党务学习|基于SprinBoot+vue的大学生党务学习平台(源码+数据库+文档)
伟庭的博客
04-27 774
大学生党务学习平台管理系统按照操作主体分为管理员和用户。用户的功能等。该系统采用了Mysql数据库，Java语言，Spring Boot框架等技术进行编程实现。大学生党务学习平台管理系统可以提高大学生党务学习平台信息管理问题的解决效率，优化大学生党务学习平台信息处理流程，保证大学生党务学习平台信息数据的安全，它是一个非常可靠，非常安全的应用程序。大学生党务学习平台管理系统；入党申请,党课Mysql数据库；Java语言。
Machine Learning specific learning route
04-04
1. Mathematics: Understanding the mathematical concepts like probability, calculus, statistics, linear algebra, optimization, and multivariate calculus is essential for machine learning. 2. Programming: Learning programming languages like Python, R, and Java is necessary for machine learning. 3. Data Structures and Algorithms: Understanding data structures and algorithms is important for efficient data processing and analysis. 4. Data Preprocessing: Learning data preprocessing techniques like data cleaning, data transformation, and data integration is important for preparing data for analysis. 5. Supervised Learning: Understanding supervised learning algorithms like linear regression, logistic regression, decision trees, and support vector machines is important. 6. Unsupervised Learning: Understanding unsupervised learning algorithms like clustering, principal component analysis, and association rule mining is important. 7. Deep Learning: Learning about deep learning algorithms like neural networks, convolutional neural networks, and recurrent neural networks is important. 8. Reinforcement Learning: Understanding reinforcement learning algorithms like Q-learning and policy gradient methods is important. 9. Model Evaluation and Selection: Learning about techniques for evaluating and selecting the best models for specific tasks is important. 10. Deployment: Learning about deploying machine learning models in production environments is important.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值