交叉熵损失函数及各类损失函数总结

交叉熵损失函数及各类损失函数总结

1.交叉熵代价函数的引入：
参考地址：https://blog.csdn.net/wtq1993/article/details/51741471.
2.sigmoid与binary crossentropy,softmax与categorical crossentropy的联系：
可以参考：
https://www.zhihu.com/question/36307214/answer/364963552.
3.categorical crossentropy与sparse categorical crossentropy的区别：
若target采用one-hot编码，则使用前者；若target采用数字编码，则采用后者，参考：
http://sofasofa.io/forum_main_post.php?postid=1005527.
4.hinge loss（典型用于SVM）：
可以参考：
https://www.jianshu.com/p/ae3932eda8f2.