![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
矩阵求导
文章平均质量分 80
23if3ivbib3
这个作者很懒,什么都没留下…
展开
-
计算一个简单的两层感知机的梯度
计算一个简单的两层感知机的梯度 损失函数: L=12K∑i=1K‖yi−W2W1xi‖22=12K‖Y−W2W1X‖2FL=12K∑i=1K‖yi−W2W1xi‖22=12K‖Y−W2W1X‖F2\begin{eqnarray*} L &=\frac1{2K}\sum_{i=1}^K\| y_i-W^2W^1x_i\|^2_2 \\ &=\frac1{2K}\| Y-W^2W^1X\|^2_F...原创 2018-07-26 11:00:15 · 635 阅读 · 0 评论 -
RNN向后传播推导
RNN: Backprop Through Time Learnable parameter matrices denote U,V, W. ∂∂P≜P⎯⎯⎯⎯∂L∂P≜P¯\frac{\partial\mathcal{L}}{\partial P}\triangleq \overline{P}原创 2018-09-03 15:33:40 · 385 阅读 · 0 评论