神经网络常见的激活函数,神经网络 激活函数

人工神经网络常用的激活函数有哪些

人工神经网络（ArtificialNeuralNetwork，即ANN），是20世纪80年代以来人工智能领域兴起的研究热点。

它从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。

神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（activationfunction）。

每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。

而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。

谷歌人工智能写作项目：小发猫

人工神经网络常用的4个激活函数是哪些

何止3个（类）？

深度的大多ReLU以及类似的，softplus是reLu软化的产物；RBF的话Gaussian很常见；Sigmoif类里tanh和logistic等也很常用；实在不济，stepfunction也可以用