实例分割中mAP与mIOU有什么不同

1.mAP

TP（True Positive）：loU>0.5的检测框数量（同一Ground Truth只计算一次）
FP（False Positive）：loU<=0.5的检测框（或者是检测到同一个GT的多余检测框的数量)
FN（False Negative）：没有检测到的GT的数量
记住：一个GT只会计算一个TP，一个GT即使有5个IoU大于0.5的预测框，TP也只能等于1，剩下的4个都被认为是FP。按置信度排序选最大的作为TP

Precision（查准率）：TP/(TP + FP)，模型预测的所有目标中，预测正确的比例Recall（查全率）：TP /(TP + FN)，所有真实目标中，模型预测正确的目标比例

AP：Precision-Recall曲线下面积
mAP：mean Average Precision,即各类别AP的平均值

如上两张图中检测出4个检测框，一共3个GT，按照置信度排序，可以看到P4P3都对应于GB，但因为P4置信度高，所以P4为TP，P3为FP。
若置信度阈值为98%，则只保留P4框，其余框都删除，即只检测到一个目标，没有错检，漏检了两个GT，Precision为TP/(TP + FP)，即1/(1+0)=1，Recall为TP /(TP + FN)，即1/(1+2)=1/3
若置信度阈值为88%，保留P4P3框，即两个检测框，但P4是TP，P3为FP，Precision为1/(1+1)=1/2，Recall为1/(1+2)=1/3
若置信度阈值为78%，保留P4P3P1框，Precision为2/(2+1)=2/3，Recall为2/(2+1)=2/3
若置信度阈值为60%，保留P4P3P1P2框，Precision为2/(2+2)=1/2，Recall为2/(2+1)=2/3

画出Precision-Recall曲线图如下

然后计算Precision-Recall曲线下面积即（0.33-0）*1+（0.67-0.33）*0.67 = 0.56，此即为该类别的AP，对每个类别求出AP后求平均即可得mAP
而mAP（COCO）[0.5:0.05:0.95]即为，此处的0.5表示当iou>0.5时才将检测框视为TP

以上即为目标检测的mAP计算方法，而实例分割的mAP计算不同点在于iou计算的是预测掩膜与真实掩膜的iou

2.mIOU

在前文图像分割常见性能指标的计算方法中已经详细介绍了mIOU的计算方法，可以看出mIOU是针对每个像素的预测结果而得出的，而mAP相比于mIOU要略微‘粗糙’一些，并且如果iou阈值较低的情况下，如0.5，0.6等，预测图的分割质量当然会下降不少。所以一般选用mIOU作为实例分割的评价指标。