神经网络专栏
光明的心2
这个作者很懒,什么都没留下…
展开
-
机器学习反向传播梯度求导
机器学习反向传播梯度推导在我的前一篇文章中,已经推导出了单层感知机梯度的计算公式多层感知机梯度推导φEφWjk=(0k−tk)0k(1−0k)Wj0\frac {\varphi_E} {\varphi_{W_{j_k}}} = (0_k - t_k)0_k(1 - 0_k) W_j^0φWjkφE=(0k−tk)0k(1−0k)Wj01. 链式法则:φf(x)φ...原创 2020-04-01 17:14:50 · 490 阅读 · 0 评论 -
机器学习多层感知机梯度推导
机器学习多层感知机梯度推导在我的前一篇文章中,已经推导出了单层感知机梯度的计算公式单层感知机梯度推导φEφwj0=(O−t)σ(x01))(1−σ(x01)))xj0\frac {\varphi_E} {\varphi_{w_{j_0}}} = (O - t) \sigma(x_0^1))(1 - \sigma(x_0^1))) {x_j^0} \\φwj0φE=(O−t)σ...原创 2020-03-24 17:01:17 · 862 阅读 · 1 评论 -
机器学习单层感知机梯度推导
激活函数:图示:梯度求解:f(x)=11+e−xf(x) = {1 \above{0.5px} 1 + {e^{-x}}}f(x)=1+e−x1f′(x)=e−x(1+e−x)2f'(x) = {e^{-x} \above{0.5px} ({1 + e^{-x}})^2} f′(x)=(1+e−x)2e−xf′(x)=(1+e−x)−1(1+e−x)2f'(x) = {...原创 2020-03-05 18:53:03 · 587 阅读 · 0 评论