小总结：神经网络的未来倾向，强化学习与深度学习，bagging与dropout

本文没有任何干货，闲来看看，增强对ML的理解，增强前瞻性

神经网络的未来倾向

1.第一代人工智能是感知器，一个简单的神经元只能处理二进制数据。
2.第二代神经网络包括比较广泛，BP神经网络等。 
3.第三代神经网络：脉冲耦合神经网络。其模拟神经元更加接近实际，除此之外，它把时间信息的影响也考虑其中。思路是这样的，动态神经网络中的神经元不是在每一次迭代传播中都被激活（而在典型的多层感知机网络中却是），而是在它的膜电位达到某一个特定值才被激活。当一个神经元被激活，它会产生一个信号传递给其他神经元，提高或降低其膜电位。（自然生物神经网络的“神经递质”）

第三代神经网络，脉冲神经网络（Spiking Neural Network，SNN）归类为类脑计算，现在认为生物智能是人工智能想要达到的目标和方向，肯定是标榜自然智进行改进与深化。

强化学习与深度学习

强化学习与深度学习：
深度学习通过损失函数加强感知能力
强化学习通过奖励函数加强决策能力
深度强化学习就是想结合感知和决策能力。

实际上，强化学习本质是解决 decision making 问题，决策问题。包含奖励的元素，这个过程就模拟了教育过程，如果更好就给予更高的奖励。

bagging与dropout

这是在看DeepLearning时看到的内容，突然觉得很有意思，就稍微看了一下

书籍链接：DeepLearning（深度学习书）中文版PDF百度云

bagging：白话点说，就是生成多个网络，然后对同一个输入进行识别，取概率的结果，相当于投票机制

dropout就不多说了，然后发现bagging在机制上与dropout相似，所以普遍采用dropout方式减轻运行负担，进行合理正则化。

详细内容推荐一篇好文章：从bagging到dropout（deep learning笔记Ian）