自我学习（Self-Taught Learning）

最新推荐文章于 2019-08-13 12:26:58 发布
最新推荐文章于 2019-08-13 12:26:58 发布
阅读量8k 收藏 15
点赞数 1
分类专栏： UFLDL UFLDL 文章标签： Deep Learning UFLDL 深度学习 模式识别 数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ycheng_sjtu/article/details/38535045
版权
自我学习结合稀疏自编码器和Softmax回归分类器，通过大量无标签数据进行预训练，然后用少量有标签数据进行微调。在MINST数据库实验中，这种方式显著提高了手写数字识别的准确性，达到98.215453%的测试准确率。实验证明，自我学习是一种有效的特征学习方法。
摘要由CSDN通过智能技术生成

自我学习就是把稀疏自编码器与Softmax回归分类器串联起来。

稀疏编码器是用来无监督学习的，使用无标签数据
回归分类器是有监督学习，使用标签数据


实际生活中，我们能轻松获得大量无标签数据（如从网上随机下载海量图片）
难以获得大量有标签数据（有标签的数据库通常不会太大，而且很贵


如果我们手头上只有少量标签数据，但是有大量的无标签数据，这是就可以采用自我学习的方式，得到有用的特征，进而获得比单纯Softmax好得多的效果。
我们还是用MINST数据库，我们把0~4这些手写体数据作为无标签数据；把5~9这些手写体数据再次一分为二，一部分为测试数据，一部分为验证数据。


程序方面因为有了前面几节的基础，把相关函数调用一下就好：



最低0.47元/天 解锁文章
ycheng_sjtu
关注
专栏目录
Deep learning：十五(Self-Taught Learning练习)
weixin_34127717的博客
03-24 152
  　　前言： 　　本次实验主要是练习soft- taught learning的实现。参考的资料为网页：http://deeplearning.stanford.edu/wiki/index.php/Exercise:Self-Taught_Learning。Soft-taught leaning是用的无监督学习来学习到特征提取的参数，然后用有监督学习来训练分类器。这里分别是用的sparse...
Self-taught Learning: Transfer Learning from Unlabeled Data
06-12
Self-taught Learning: Transfer Learning from Unlabeled Data
一个Self Taught Learning的简单例子
weixin_34283445的博客
11-06 97
idea: Concretely, for each example in the the labeled training datasetxl, we forward propagate the example through a convolutional and a pooling layer to obtain the activation of the hidden unitsa(...
深度学习基础（六）Self-Taught Learning 分类： 深度学习...
dengxundong1074的博客
03-20 449
要想提高学习类的算法，最简单的方法就是使用更多的数据，但是有标签的数据往往是很难获取的，因此对于无标签的数据的学习，我们有自学习算法和无监督特学习算法。 有两类常用的特征学习算法，自学习算法的前提假设是无标签的数据和有标签的数据不一定满足一样的分布，而无监督学习算法的前提假设是两者的分布是一样的。 我们先来介绍一下特征学习： 我们之前讲过自编码器，输入时有标签的数据...
深度学习-自学习（self taught learning）
热门推荐
BUB1997的博客
06-25 2万+
自学习与半监督学习：两者都是有少量的标注数据和大量的未标注数据的情况。两者的不同在于半监督学习要求标注数据和未标注数据有同样的分布，而自学习没有这种要求，因此具有更广泛的应用。 自学习包括两个部分，第一个是用无标签的样本集训练稀疏自编码器，第二个是用有标签的训练样本集训练softmax分类器。 具体过程如下： 第一步，设置神经网络的结构； 第二步，利用无标签数据集训练稀疏自编码器； 第三...
Self-Taught Learning
freeliao的专栏 在路上奔跑。。。
02-19 3623
自编码器是一个三层的feed-forward神经网络模型，输入层经过隐含层的特征表示后再重构出跟输入层逼近的输出层，中间的隐含层是特征表示层，表示对输入层学习到的特征，这些特征可能更好地表示了数据，如果用学到的特征来训练数据分类或回归可能学习效果更好，于是就有了自我学习和无监督特征学习。     如果我们有很多的未标注数据，那就更好了，我们可以用自编码器学习特征表示，然后用学到的特征表示
UFLDL：Self-Taught Learning
11-07
实验要求可以参考deeplearning的tutorial， Exercise:Self-Taught Learning 。本实验和上一个实验一样都是对手写数字0-9的识别，区别在于上一个实验直接把原始图像的像素值作为特征输入到softmax回归进行分类，而本...
UFLDL exercise6 Self-Taught Learning
04-09
The self-taught learning paradigm with the sparse autoencoder and softmax classifier to build a classifier for handwritten digits.
UFLDL self-taught 自我学习编程答案
06-29
【标题】"UFLDL self-taught 自我学习编程答案"是指一套基于UFLDL（Unsupervised Feature Learning and Deep Learning）教程的自我学习编程练习的答案集。UFLDL是一个由斯坦福大学开发的在线资源，旨在帮助学习者...
UFLDL教程练习题答案——self-taught learning
03-12
UFLDL教程练习题答案——self-taught learning，里面的代码都是最优的，可以替换之前资源里面的代码
有关于c的自我学习代码
08-24
是自己写的一些代码，练手的
特征学习 (Self_taught Learning)
whiteinblue的专栏
03-20 6023
简介           如果已经有一个足够强大的机器学习算法，为了获得更好的性能，最靠谱的方法之一是给这个算法以更多的数据。机器学习界甚至有个说法：“有时候胜出者并非有最好的算法，而是有更多的数据。”      在自学习和无监督特征学习问题上，可以给算法以大量的未标注数据，学习出较好的特征描述。在尝试解决一个具体的分类问题时，可以基于这些学习出的特征描述和任意的（可能比较少的）已标注数据，使
UFLDL教程答案(5):Exercise:Self-Taught Learning
JiangV的博客
12-19 2237
matlab 实现无监督训练自编码，再加上softmax对mnist手写数字分类。
UFLDL新版教程与编程练习（十一）：Self Taught Learning（自我学习）
laizi_laizi的博客
08-13 477
UFLDL是吴恩达团队编写的较早的一门深度学习入门，里面理论加上练习的节奏非常好，每次都想快点看完理论去动手编写练习，因为他帮你打好了整个代码框架，也有详细的注释，所以我们只要实现一点核心的代码编写工作就行了，上手快！ 我这里找不到新版对应这块的中文翻译了，-_-，这是最后一个练习了，之后就可以学cs231n了，得加快啊！ 第十一节是：Self Taught Learning（自我学习） feed...
UFLDL学习笔记4（Self-Taught Learning and Unsupervised Feature Learning）
richard2357的专栏
01-13 2902
最近在学习UFLDL Tutorial，这是一套关于无监督学习的教程。在此感觉Andrew Ng做的真的是非常认真。下面把我的代码贴出来，方便大家学习调试。所有代码已经过matlab调试通过。 Self-Taught Learning and Unsupervised Feature Learning练习 这一章实际上是把Sparse Autoencoder和Softmax R
【Deep Learning】4、Self-Taught Learning
极度视界
08-09 1831
Self-Taught Learning
泛读论文：Self-taught Learning: Transfer Learning from Unlabeled Data
汪汪汪的博客
03-19 2722
Self-taught Learning: Transfer Learning from Unlabeled Data ICML2007 问题 Semi-supervised learning typically makes the additional assumption that the unlabeled data can be labeled with the same labe...
Exercise:Self-Taught Learning 代码示例
accomolate的专栏
12-23 622
练习参考Self-Taught Learning 结合使用稀疏自编码器和Softmax分类器对0到4的手写数字进行分类。首先利用稀疏自编码器无监督学习手写数字5到9的特征。利用学到的权重和偏置计算手写数字0到4的激活值，并将激活值作为Softmax分类器的输入进行分类（有监督学习）。 Train the sparse autoencoder opttheta = th
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值