在机器学习推导公式中,sigmod函数和softmax函数的求导过程是十分常见的,现总结推导结果如下:
s
i
g
m
o
d
sigmod
sigmod函数的求导结果:
f
(
z
)
′
=
f
(
z
)
(
1
−
f
(
z
)
)
f(z)'=f(z)(1-f(z))
f(z)′=f(z)(1−f(z))
s
o
f
t
m
a
x
softmax
softmax函数的求导结果:
f
(
z
)
′
=
1
−
f
(
z
)
f(z)'=1-f(z)
f(z)′=1−f(z)
具体推导结果参考如下链接: