深度学习_总结篇

前篇总结

  1. 深度学习_简介及相关概念
    http://blog.csdn.net/xieyan0811/article/details/78401473
  2. 深度学习_工具
    http://blog.csdn.net/xieyan0811/article/details/78411882
  3. 深度学习_BP神经网络
    http://blog.csdn.net/xieyan0811/article/details/78425453
  4. 深度学习_卷积神经网络CNN
    http://blog.csdn.net/xieyan0811/article/details/78438329
  5. 深度学习_循环神经网络RNN与LSTM
    http://blog.csdn.net/xieyan0811/article/details/78462982

 朋友反馈说,看不懂CNN和RNN篇.文章确实因为篇幅原因,有点跳步了.不过我觉得主要原因还是跳过了前面的基础部分.我们很多时候喜欢直击重点,跳过过程,但是有的过程确实跳不过去.
 数据挖掘,机器学习,机器视觉,语言处理这些背后有很多数学概率基础,且不止于此,它和大多数程序员之前接触的写应用,网络编程,数据库,配系统,学习编程语言,把人家的库拿来搭一搭… 不一样,那些即使不懂原理,也能照猫画虎做个七八成.在这里,我们用Python/R,它们把技术细节都解决了,这里拼的不是工作量,拼的是算法,是对数据的理解.参加个比赛或者技术选型,人家用啥模型,咱也用啥模型,即使只调参,也需要理解数据和掌握数学工具.不明白原理,还是没法跟人家拼?
我个人觉得,这个很难速成.对于程序员来说,唯一的捷径可能是从代码入手,在做的过程中,逐步把数学和原理补上.程序员对代码直觉相对好一点,有时候我看不懂图和公式,但我看得懂代码.

谈谈我对深度学习的理解

深度学习可以理解成一层一层地抽象提取隐含的特征,最后求解问题.一开始我觉得这和浅层学习中的算法集成差不多,那个也可以一层一层搭起来的.
随着学习的深入,我觉得它确实有明显的优势,比如:
第一:它引入的激活函数可以解决非线性问题.
第二:数据从x流向y,而误差从y逐层流回x,整个网络中所有权值都在不断调整,不是某一层调完就不动了,浅层集成大多数时候是单向的,没这灵活.
第三:它相对自动化,第个层间具体传输的内容,不用人手动指定和对接.

神经网络解决的问题

 一般把有监督学习分为三种(概念引自《机器学习》Peter Flach著):几何模型(如线性拟合),概率模型(如贝叶斯网络),逻辑模型(如决策树).具体算法可能是其中一种或多种的结合.
 看看神经网络与这三种模型的关系:
第一:几何模型,神经网络层与层间的连续就是线性变换,然后利用误差调整参数,这个过程就是线性拟合.
第二:概率模型,神经网络本来就是个概率类模型.它网络中各个权重表示的就是它对最终结果的影响,预测出的值也可以是结果的概率.
第三:逻辑模型,逻辑模型主要是:与,或,非,异或这些运算的组合,最常看到激活函数的例子就是处理异或运算.我们也常在池化中见到与或运算.因此,它也是神经网络可以实现的.
 还有一些无监督学习,在CNN的卷积和DropOut中也实现了一部分.
 那么是不是神经网络就可以代替所有算法了呢?杀鸡需要牛刀吗?异或还需要训练吗?确实很多算法都可以迂回地改用神经网络实现.但是还要考虑运算量和复杂度的问题.正如人脑处理简单问题和复杂问题也有不同的路径:有的是查表,有的是套路,有的是具体问题具体分析.神经网络也不是一种算法,而是一类算法的集合.好坏还是要看具体场景.写算法就像搭积木,你中有我,我中有你,不好讲哪块好,哪块不好.

关于鹦鹉学舌

 机器学习现阶段还是以模仿为主,即人们常说的鹦鹉学舌.真正的强人工智能,自主的思考,至少需要有常识(大量地采样和组织数据),才能识别出非常态的"特性",有了这些才能组合,理解,发现因果.再深入到确定目标,以及目标分解等等.这条链上缺失的东西有还是很多很多,目前以学术研究为主.想了解更多,建议阅读马文明斯基的《心智社会》.

推荐

 关于深度学习的书也不太多,有一些从具体工具入手,如Caffe,TensorFlow等等.卖 得最好的是《深度学习》Ian Goodfellow, Yoshua Bengio, Aaron Courville著("花书"),目前在当当的计算机网络类图书排名第一,也可见现在"深度学习"有多热门.虽然字不大,还很厚,不过去掉前边的数学知识,后面的附录,也还好,并且复杂的公式不多,讲得也很细,确实是良心之作.

总结

 机器学习只是人工智能的一部分,光靠它恐怕实现不了强人工智能.不过随着技术地进步越来越多相关技术也更多地溶入和结合起来,我们也不妨把它作为人工智能的切入点.
 本篇是本次深度学习系列的最后一篇,接下来的文章还会围绕机器学习展开,包括经典算法的代码实例,常用工具,Kaggle比赛介绍等等,可能会穿插地写.
 在这个过程中我们尽量不调库自己写算法,加入真实的应用场景,并且和原理结合起来,不过顺序可能会从兴趣出发,并非由浅入深.呵呵,我尽量写吧,欢迎继续关注…

技术文章定时推送
请关注公众号:算法学习分享


  • 4
    点赞
  • 48
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值