激活函数
1、relu函数:小于0时都为0,大于0是是多少就多少输出。
2、sigmoid函数:它的值在0到1之间,靠近0时变化剧烈,远离时变化缓慢。
3、tanh函数:它的值在-1到1之间,根据值映射到他们之间。
4、Leak relu函数:正值原样输出,负值压缩输出。
Tensorflow学习记录
最新推荐文章于 2024-11-03 20:27:08 发布
本文详细介绍了几种常用的激活函数,包括ReLU、Sigmoid、Tanh以及Leaky ReLU。ReLU函数在处理负值时将其设为0,而Sigmoid和Tanh分别限制输出在0到1和-1到1之间。Leaky ReLU则是对负值进行微小的线性变换,解决了ReLU的死亡神经元问题。这些函数在神经网络中起到非线性转换的关键作用,影响模型的学习能力和预测精度。
摘要由CSDN通过智能技术生成