- 博客(2)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 梯度下降法
梯度下降法随机梯度下降法批梯度下降法小批梯度下降法优化算法动量Nesterow 动量AdaGradRMSPropAdam梯度下降法随机梯度下降法批梯度下降法gk=fk′(x)g_k = f_k'(x)gk=fk′(x)xk+1=xk−lr∗gkx_{k+1} = x_k - lr * g_kxk+1=xk−lr∗gk小批梯度下降法优化算法动量gk=f...
2018-10-26 17:22:45
206
原创 激活函数
激活函数一. Sigmoid 函数sigmoid基本性质逻辑回归LSTM双曲正切函数tanh基本性质RNN三. ReLUReLU基本性质P-ReLUR-ReLUE-ReLU一. Sigmoid 函数sigmoid基本性质Sigmoid函数是一个在生物学中常见的S型函数，也称为S型生长曲线。在信息科学中，由于其单增以及反函数单增等性质，Sigmoid函数常被用作神经网络的阈值函数，将变量映射到...
2018-10-26 16:35:49
1205
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人