q = x*w + b 后向传递梯度求导(求dx,dw,db)
x:N∗Dx: N*Dx:N∗D
w:D∗Mw: D*Mw:D∗M
b:Mb: Mb:M
后向传递得到:αfαq=dout\frac{\alpha f}{\alpha q} = doutαqαf=dout
dout:N∗Mdout:N*Mdout:N∗M
求解dxdxdx
αqi,kαxi,j=wj,kαfαqi,j∗αqi,kαxi,j=douti,k∗wj,k∵q and ...
原创
2019-10-30 16:15:51 ·
740 阅读 ·
2 评论