机器学习——sigmoid、tanh、relu等激活函数总结
一、什么是激活函数?一个神经元会同时接收多个信号,然后将这些信号乘以一定权重求和,再用函数处理后再输出新的信号。对神经元的输入进行处理,以获得输出的函数称为激活函数。二、为什么要用激活函数?激活函数对模型学习、理解非常复杂和非线性的函数具有重要作用。激活函数可以引入非线性因素。如果不使用激活函数,则输出信号仅是一个简单的线性函数。线性函数一个一级多项式,线性方程的复杂度有限,从数据中学习...
原创
2019-08-28 17:27:12 ·
9085 阅读 ·
1 评论