Coursera deeplearning.ai 深度学习笔记1-1-Introduction to deep learning

常见神经网络：标准NN、CNN、RNN。

有监督学习(Supervised Learning)：数据有标签；
无监督学习(Unsupervised Learning)：数据无标签。

数据分类：结构化数据(Structured Data)和非结构化数据(Unstructured Data)，结构化数据是基于数据库的数据，例如数据库或列表，非结构化数据例如音频、图片或文本等。对于非结构化数据的学习更加困难。

深度学习的性能为什么这么强大？
(1) 数据规模的提升。
(2) 计算速度的提升。
(3) 算法的创新，使神经网络的运算更快，例如激活函数从sigmoid函数变化ReLU函数。