Unsupervised learning的几种方法

已于 2023-03-19 17:26:23 修改
阅读量97 收藏
点赞数
分类专栏： python 李宏毅机器学习 文章标签： 机器学习 人工智能 深度学习
于 2023-03-17 07:55:14 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42666153/article/details/129610573
版权

Unsupervised learning:

VAE

self-supervised learning属于Unsupervised learning的一种
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
生成模型综述 Generative Model

The autoregressive model is an expressive Bayes Net structure with neural network conditional distributions that yields an expressive model for p(x) with tractable maximum likelihood training.

在这里插入图片描述
(强推)李宏毅2021/2022春机器学习课程

在这里插入图片描述
在这里插入图片描述
Bert左右两边不盖住，预测中间的一个或一部分

在这里插入图片描述
bert在auto regression（从左向右生成）上表现不好，在Generative上表现不好，所以不太适合做seq2seq的预训练

P78(选修)To Learn More - ELMo, BERT, GPT, XLNet, MASS, BART, UniLM, ELECTRA, others1:11:46

在这里插入图片描述

inf-inf
关注
专栏目录
【论文研读】Self-supervised、unsupervised learning （2020最新论文）
Always_ease的博客
07-16 2240
Are Labels Necessary for Neural Architecture Search Author：Chenxi Liu ，...，Kaiming He（Facebook AI） 发现： the architecture rankings produced with and without labels are highly correlated.NAS和UnNAS的结果具有高度相关性 using unlabeled images from a large d..
Deep Clustering for Unsupervised Learning of Visual Features
m0_47180208的博客
07-05 1098
无监督的视觉特征学习的深度聚类摘要相关工作方法预先说明通过聚类无监督学习避免琐碎的解决方案实施（实验）细节初步研究结论 摘要 聚类是一类无监督的学习方法，这些方法已被广泛应用和研究计算机视觉。很少的工作以使其适应大规模数据集的视觉特征的端到端训练。在这项工作中，我们呈现DeepCluster，一种聚类方法，该方法共同学习神经网络的参数和结果特征的群集分配。 DeepCluster迭代地将具有标准聚类算法，kmeans的功能统一，并使用后续分配作为监控来更新网络权重。我们将DeepCluster应用于大型数
论文慢递1：Combining Self-Training and Self-Supervised Learning for Unsupervised Disfluency Detection
德艺双馨王英俊
09-04 483
目录前言模型方法伪数据训练teacher模型伪数据训练grammaticality judgment模型训练student模型实验&实验结果英文（作者）数据集介绍dev集上结果test集上结果select消融实验中文（复现）伪数据的构造目前的结果总结 前言 当前文本顺滑任务基于昂贵的标注语料，本文提出了一种基于半监督的noise student training方法可以通过无标注语料进行学习，且结果与当前的有监督模型（Bert、Electra）相比表现也有一定竞争性； ASR任务中的输出结果往往
【EMNLP2020】融合自训练和自监督方法的无监督文本顺滑研究
zenRRan的博客
10-16 608
论文名称：Combining Self-Training and Self-Supervised Learningfor Unsupervised Disfluency Detectio...
机器学习几种训练方式
zhao2018110980的博客
08-04 4234
机器学习 机器学习通常包括监督学习、非监督学习、半监督学习和强化学习四种训练网络的方式。 一、自监督学习（Self-supervised Learning） 监督学习是使用已知正确的答案的示例来训练网络。由于网络在学习的过程中不仅有训练数据，还有训练结果（标签），因此训练的效果通常不错。 学习技术：分类（classification）和回归(regression) 二、无监督学习（Unsupervised Learning） 无监督学习是指只给网络训练数据，不给标签，因此网络无法准确知道哪些数据具有哪些标签
综述 | 自监督学习（Self-Supervised Learning） 2018-2020年的发展
idol24的博客
06-04 1万+
点击上方“机器学习与生成对抗网络”，关注"星标"获取有趣、好玩的前沿干货！来源｜https://medium.com/@kelispinor/簡介-self-superv...
Supervised learning/ Unsupervised learning监督学习/无监督学习
MengYa_Dream的博客
04-02 2829
supervised learning/ unsupervised learning监督学习/无监督学习
无监督学习 – Unsupervised learning | UL
weixin_44906759的博客
11-10 543
无监督学习 – Unsupervised learning
Unsupervised Learning | 对比学习——13篇论文综述
热门推荐
Clichong
01-29 1万+
文章目录1. 第一阶段：百花齐放1.1 InstDisc1.2 InvaSpread1.3 CPC1.4 CMC2. 第二阶段：CV双雄2.1 MoCov12.2 SimCLRv12.3 MoCov22.4 SimCLRv22.5 SWaV2.6 Other3. 第三阶段：不用负样本3.1 BYOL3.2 SimSiam4. 第四阶段：Transformer4.1 MoCov34.2 DINO5. 总结 1. 第一阶段：百花齐放 在第一阶段上，方法模型都没有统一，目标函数，代理任务也没有统一，所以说是一
Deep Unsupervised Learning.pdf
07-11
此外，还介绍了几种评估模型性能的指标，包括Inception Score (IS) 和Frechet Inception Distance (FID)，这些指标可以用来衡量生成视频的质量。 #### 五、总结与展望 本文通过展示DVD-GAN在复杂视频数据集上的...
【SLAM系列】Unsupervised Learning of Depth and Ego-Motion from Video
weixin_43882112的博客
09-18 2426
文章目录1 概要2. Motivation3. 思想4. 算法5. 实验结果6. 总结与思考 1 概要 题目：Unsupervised Learning of Depth and Ego-Motion from Video 论文：https://people.eecs.berkeley.edu/~tinghuiz/projects/SfMLearner/cvpr17_sfm_final.pdf 代码： 2. Motivation 3. 思想 4. 算法 5. 实验结果 6. 总结与思考 参
【论文精读】SfMLearner——《Unsupervised Learning of Depth and Ego-Motion from Video》
weixin_53215555的博客
10-06 2931
SFMlearner
2021李宏毅机器学习笔记--18Unsupervised Learning -- Neighbor Embedding
guoxinxin0605的博客
08-07 550
2021李宏毅机器学习笔记--18 Unsupervised Learning -- Neighbor Embedding 摘要一、Manifold Learning(流形学习)二、Locally Linear Embedding(LLE,局部线性嵌入)三、Laplacian Eigenmaps(拉普拉斯特征映射)3.1 简介二级目录二级目录四、总结二级目录三级目录 摘要 wijw_{ij}wij​ wiw^iwi 本节是进行非线性降维的一些算法。包括局部线性嵌入LLE、拉普拉斯特征映射和t分布随
【交通标志识别系统】Python+卷积神经网络算法+人工智能+深度学习+机器学习+算法模型
子午的博客
10-12 746
交通标志识别系统。本系统使用Python作为主要编程语言，在交通标志图像识别功能实现中，基于TensorFlow搭建卷积神经网络算法模型，通过对收集到的58种常见的交通标志图像作为数据集，进行迭代训练最后得到一个识别精度较高的模型文件，然后保存为本地的h5格式文件。再使用Django开发Web网页端操作界面，实现用户上传一张交通标志图片，识别其名称。在本项目中，开发了一个基于人工智能的交通标志识别系统，旨在利用深度学习技术对常见的交通标志进行高效、准确的识别。
斯坦福 CS229 I 机器学习 I 构建大型语言模型 （LLMs）
qq_53795212的博客
10-09 1066
困惑度是基于验证损失计算的，用来衡量模型对数据的理解程度，反映模型在预测序列时的平均不确定性（模糊预测的 token 有多少）。通过让预训练好的模型生成类似人类标注的数据，可以快速地积累大规模的数据集，降低对人类标注的依赖。模型可以生成各种形式的答案，从健康建议到对编程任务的解答，这些生成的数据可以用来微调其他模型，提升它们在特定任务上的表现。这个向量经过线性变换，从初始维度。PPO 是一种常用的强化学习算法，它通过约束更新步骤，避免模型的过度优化（即防止模型产生非常激进的变化），保持训练的稳定性。
机器学习【金融风险与风口评估及其应用】
qq_201729558
10-13 1690
本文主要叙述机器学习【金融风险与风口评估及其应用】
【动物识别系统】Python+卷积神经网络算法+人工智能+深度学习+机器学习+计算机课设项目+Django网页界面
子午的博客
10-12 705
动物识别系统。本项目以Python作为主要编程语言，并基于TensorFlow搭建ResNet50卷积神经网络算法模型，通过收集4种常见的动物图像数据集（猫、狗、鸡、马）然后进行模型训练，得到一个识别精度较高的模型文件，然后保存为本地格式的H5格式文件。再基于Django开发Web网页端操作界面，实现用户上传一张动物图片，识别其名称。
基于机器学习的二手车价格因素识别与预测
最新发布
m0_53814833的博客
10-15 591
随着二手车市场的快速发展，消费者对二手车的需求逐渐增加，然而，由于二手车的定价涉及多种复杂因素，不同条件下的车辆价值差异较大，如何精准地评估二手车的市场价值成为了一个亟待解决的问题。本项目通过数据分析和机器学习建模，尝试识别并量化影响二手车价格的主要因素，并构建一个价格预测模型，为消费者和行业从业者提供数据支持。
【ShuQiHere】 K-means 聚类算法详解：公式、代码与实战
ShuQIHere的博客
10-09 2062
K-means 是一种常见的**无监督学习算法**（*Unsupervised Learning Algorithm*），用于解决**聚类**（*Clustering*）问题。该算法的目标是将数据集中的 \(n\) 个数据点分成 \(K\) 个簇（*Clusters*），使得同一簇内的数据点之间尽可能相似，而不同簇的数据点尽可能不同。🧑‍🏫 K-means 在市场细分、图像压缩、模式识别等领域得到了广泛应用。其因简单高效而受欢迎，但要充分利用它，理解其工作原理至关重要。
机器学习有哪几种途径
06-11
机器学习主要可以通过以下几种途径进行： 1. 监督学习（Supervised Learning）：在这种方法中，模型使用带有标签的数据集进行训练，目的是学习输入与输出之间的映射关系。常见的应用有分类和回归问题。 2. 无监督...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值