深度学习笔记——why “deep”？

1、多层的学习效果往往比单层要好，即便参数的个数一样

2、在用C语言进行结构化编程时，我们从来不会把大量的功能写到一个函数里面，而是写很多函数同过函数调用实现目标。神经网络也类似，一个层可以看做一个函数实现了一个功能，多层结构更清晰，功能也更强大。

3、如下图所示，如果只有一层的话就很难识别长头发男生，因为其样本太少

增加一层实现识别性别的功能，在此基础上进一步区分长发和短发，效果就好一些

因此，深层网络相比浅层网络需要更少的训练数据（这一点与通常的大众认知不同）。

4、虽然一个只有一层隐含层的神经网络就可以模拟出任何连续函数，但事实上很少有人用这种简单的网咯。因为，深度网咯更高效、更强大。

这一点类似于逻辑电路。一个两层的逻辑电路可以实现任何布尔函数，但是现实中的逻辑电路有很多层

5、深度网咯可以完成更复杂的任务。比如：

再比如：

还有：