【吴恩达 Deep Learning】 第一课 Week 1 学习笔记

第一课 week1

1.1 欢迎

1.2 神经网络

$ReLU$ 函数，神经元。

输入$x$，输出$y$，不管训练集有多大，中间过程都会由神经网络自己完成。

1.3 用神经网络监督学习

Standard NN，CNN，RNN，Complex hybrid NN

结构化数据：basically databases of data

非结构化数据：计算机理解起来困难

1.4 为什么深度学习会兴起

如果想到达到高性能的水平，有两个条件：

• 训练一个规模足够大的神经网络，以发挥数据规模大的优点
• 需要很多的数据

规模推动深度学习的进步，规模不仅是指神经网络的规模，我们需要有很多隐藏单元的神经网络，有很多参数和连接，同时也需要数据规模($m$)。

当训练集不大的时候，各个网络效果差异不大，效果取决于手工设计的组件。