PCA等降维操作与深度学习的不同点的一些思考

深度学习的本质上是将数据从低维空间映射到高维空间,但是并不仅仅有这个作用,拿全连接层举例,假设输入数据500维,可以映射到1000维做一个升维操作,也可以降维到256维,但往往经过一个完整的神经网络后,可以将数据映射到高维空间,这样做的目的就是让数据变得线性可分。因为线性分类器是非常简单的分类器,这样数据映射到高维空间后就能较为容易的分开。其他SVM、核方法、等等也有类似的基本思想。

但是在早期机器学习的研究中涉及到很多降维的方法,例如PCA、CCA、LDA等等,这些降维操作目的是从高维数据中选取较为重要的几个维度作为新的特征维度,这样做的好处是可以去除噪声。但是这样看来好像与深度学习等方法的方向完全相反。

其实方法确实不同,但是应用场景不同,早期机器学习的研究过程中,数据量很小,并且还在高维空间,这样就会有很多的噪声冗余成分,这时候就需要做降维操作。但是现在应用深度学习可以拥有足够大的数据量,这样可以将数据映射到高维空间使之变的线性可分,运用到高维空间中线性分类器的优势。

仅为本人的一点思考,欢迎讨论。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值