神经网络的发展

卷积神经网络（CNN）的演进从LeNet到AlexNet，再到VggNet、GoogleLeNet，最后到ResNet。

循环神经网络（RNN）的演进从VanillaRNN到隐藏层结构精巧的GRU到LSTM,再到双向和多层的Deep Bidirectional RNN。

卷积神经网络，属于人工神经网络的一种，它的权值共享的网络结构显著降低了模型的复杂度，减少了权值的数量，是目前语音分析和图像识别领域研究的热点。