1.常用的非线性激活函数: sigmoid、tanh、relu等等，前两者sigmoid/tanh比较常见于全链接层，后者relu常见于卷积层。这里先简要介绍下最基础的sigmoid函数（btw，在本博客中SVM那篇文章开头有提过）。
sigmoid的函数表达式如下
其中z是一个线性组合，比如z可以等于：b +
因此，sigmoid函数g(z)的图形表示如下（ 横轴表示定义域z，纵轴表示值域g(z) ）：
本文介绍了卷积神经网络（CNN）中的关键知识点，包括常用的非线性激活函数sigmoid、relu及其作用，卷积操作的概念，以及CNN的局部感知和参数共享两大机制。此外，还简述了CNN的基本层级结构。
最低0.47元/天 解锁文章
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
