代价函数：二次、交叉熵、对数似然（课程：炼数成金）
欢迎点亮star
文章目录
二次代价函数（quadratic cost）
C = 1 2 n ∑ x ∣ ∣ y ( x ) − a L ( x ) ∣ ∣ 2 C = \frac{1}{2n} \sum_x ||y(x) - a^L(x)||^2 C=2n1∑x∣∣y(x)−aL(x)∣∣2
- 其中，C表示代价函数，x表示样本，y表示实际值（label），a表示输出值（预测值），n表示样本的总数。
- 例：当样本为1时，即x,n=1：
C = ( y − a ) 2 2 C = \frac{(y-a)^2}{2} C=2(y−a)2
其中 a = σ ( z ) , z = ∑ W j ∗ X j + b a = \sigma(z), z = \sum W_j * X_j + b a=σ(z),z=∑Wj∗Xj+b；其中 σ ( ) \sigma() σ()是激活函数； 。 - 使用梯度下降法（Gradient descent）来调整权值参数的大小，权值W和偏置b的梯度推导如下：
最低0.47元/天 解锁文章
5102
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
