感知机的反向传播公式推导
输入为 x = [ x 1 , x 2 , ⋯ , x n ] T \textbf{x} = \left[ x_1, x_2, \cdots, x_n \right]^T x=[x1,x2,⋯,xn]T，权重为 w = [ w 1 , w 2 , ⋯ , w n ] T \textbf{w} = \left[ w_1, w_2, \cdots, w_n \right]^T w=[w1,w2,⋯,wn]T，偏置为 b b b（上图没有画出）。
感知器前向传播得到预测值
y = f ( w T x + b ) = u n i t ( w T x + b ) y = f(\textbf{w}^T \textbf{x} + b) = unit(\textbf{w}^T \textbf{x} + b) y=f(wTx+b)=unit(wTx+b)
其中 f ( x ) = u n i t ( x ) f(x)=unit(x) f(x)=unit(x)，是阶跃函数，如下图：
假如真实值为 t t t，如果损失函数采用差值 L ( w , b ) = ( t − y ) 2 L(\textbf{w},b) = (t-y)^2 L(w,b)=(t−y)2，在计算后向传播的时候做求导
∂ L ( w , b ) ∂ w = − 2 ( t − y ) ∂ y ∂ w
最低0.47元/天 解锁文章
603
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
