Tensorflow tf.nn模块分析

最新推荐文章于 2023-12-02 18:20:55 发布

北漂～

最新推荐文章于 2023-12-02 18:20:55 发布

阅读量2.4k

点赞数

分类专栏： machine-learning 文章标签： tensorflow

本文链接：https://blog.csdn.net/baroque123/article/details/78654853

版权

本文详细分析了Tensorflow中的激活函数，包括sigmoid、tanh、ReLU及其变种，以及它们的优缺点。此外，介绍了卷积操作的不同形式，如conv2d、depthwise_conv2d和separable_conv2d，并探讨了池化、数学形态学操作和归一化的概念。同时，讨论了损失函数在分类问题中的应用和softmax函数的使用。

摘要由CSDN通过智能技术生成

文章目录

数学形态学
Loss 损失
Classification 分类问题

#1. 激活函数
##1.1 平滑非线性

sigmoid:
$f(x)=\frac{-1}{1+e^{-x}}$

优点	缺点
Sigmoid函数的输出映射在(0,1)(0,1)之间，单调连续，输出范围有限，优化稳定，可以用作输出层	由于其软饱和性，容易产生梯度消失，导致训练出现问题
求导容易	其输出并不是以0为中心的。