部分参考链接:https://blog.csdn.net/l297969586/article/details/78019543
https://blog.csdn.net/u012457308/article/details/79566195
https://blog.csdn.net/mao_xiao_feng/article/details/53382790
Loss(在train.py)
Loss主要分为四部分:RPN和RCNN的分类loss,RPN和RCNN的回归loss。分类loss用softmax_cross_entropy计算,回归loss用smooth_l1_loss计算。
softmax_cross_entropy
先对网络最后一层输出做一个softmax,得出属于某一类的概率,公式为:
然后计算交叉熵,公式为: