第十六周学习周报
一、本周学习情况
1、本周主要学习李宏毅老师的机器学习课程
Unsupervised Learning-Linear Methods
Unsupervised Learning-Neighbor Embedding
Unsupervised Learning-Auto-encoder
Unsupervised Learning-Deep Generative Model
Transfer Learning
二、学习笔记
Manifold Learning(流形学习)
我们要做的事情就是降维,但是是非线性的降维。
LLE
LLE并没有一个明确的函数来告诉你怎么应用之后达到降维,降维后的z完全是凭空找出来的。用LLE有一个好处就是就算你不知道原来的xi和xj,你只知道wij,也可以用LLE求出来zi和zj。LLE要确定好neighbor有几个,neighbor的个数要刚刚好才能达到好的效果。K太大的话,欧式距离就没有意义了,会导致结果不好了。
Auto-encoder
是一种无监督的学习算法,他利用反向传播算法,让目标值等于输入值。Autoencoder尝试学习一个 的函数。也就是说autoencoder尝试逼近一个恒等函数,使得输出接近于输入 。为了使这个函数有意义,需要加入一些限制条件(比如说限制隐藏神经元的数目),就可以发现一些有意义的结构。Autoencoder可以学习到数据的一些压缩表示。
三、下周学习计划
1、李宏毅老师的机器学习课程还有一点点没看完,学完
2、把机器学习课程后面的作业完成一下