机器视觉（笔记四）

激活函数
为什么需要非线性操作？
三层全连接网络：

假若去掉激活函数：

会发现X和f之间还是线性变换。

结论：如果网络中缺少激活函数，全连接神经网络将变成一个线性分类器。

常用激活函数

网络结构设计
1.用不用隐层，用一个还是用几个隐层？（深度设计）
2.每隐层设置多少个神经元比较合适？（宽度设计）
没有统一答案。

结论：神经元个数越多，分界面就可以越复杂，在这个集合上的分类能力越强。

全连接神经网络小结
1.全连接神经网络组成：一个输入层、一个输出层及多个隐层；
2.输入层与输出层的神经元个数由任务决定，而隐层数量以及每个隐层的神经元个数需要人为指定；
3.激活函数是全连接神经网络中的一个重要部分，缺少了激活函数，全连接神经网络将退化为线性分类器。