自我学习(Self-Taught Learning)

自我学习结合稀疏自编码器和Softmax回归分类器,通过大量无标签数据进行预训练,然后用少量有标签数据进行微调。在MINST数据库实验中,这种方式显著提高了手写数字识别的准确性,达到98.215453%的测试准确率。实验证明,自我学习是一种有效的特征学习方法。
摘要由CSDN通过智能技术生成

自我学习就是把稀疏自编码器与Softmax回归分类器串联起来。

稀疏编码器是用来无监督学习的,使用无标签数据
回归分类器是有监督学习,使用标签数据


实际生活中,我们能轻松获得大量无标签数据(如从网上随机下载海量图片)
难以获得大量有标签数据(有标签的数据库通常不会太大,而且很贵


如果我们手头上只有少量标签数据,但是有大量的无标签数据,这是就可以采用自我学习的方式,得到有用的特征,进而获得比单纯Softmax好得多的效果。
我们还是用MINST数据库,我们把0~4这些手写体数据作为无标签数据;把5~9这些手写体数据再次一分为二,一部分为测试数据,一部分为验证数据。


程序方面因为有了前面几节的基础,把相关函数调用一下就好:



评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值