q = x*w + b 后向传递梯度求导(求dx,dw,db)
x:N∗Dx: N*Dx:N∗Dw:D∗Mw: D*Mw:D∗Mb:Mb: Mb:M后向传递得到:αfαq=dout\frac{\alpha f}{\alpha q} = doutαqαf=doutdout:N∗Mdout:N*Mdout:N∗M求解dxdxdxαqi,kαxi,j=wj,kαfαqi,j∗αqi,kαxi,j=douti,k∗wj,k∵q and ...
原创
2019-10-30 16:15:51 ·
771 阅读 ·
2 评论