cuda第一次计算耗时_nms的cuda实现解析

代码

https://github.com/rbgirshick/py-faster-rcnn/blob/master/lib/nms/nms_kernel.cu​github.com

nms是不太好在cuda上实现的，因为nms的计算过程是有依赖关系的，比如A,B,C三个置信度由大到小的检测框，如果IOU(A,B)大于阈值，那么BC的IOU则不必再计算了，由于依赖关系会限制cuda的发挥，因此cuda实现中，所有的box之间的IOU都是需要计算的，不过有的结果是不需要的。

代码中nms的输出是长度为

的unsigned long long的数组dev_mask，dev_mask是以每一个box为基准计算出来的所有boxes是否丢弃的结果，本来dev_mask应该是一个

的bool类型二维数组，其中true代表需要删除，false代表保留，第一行表示以置信度最高的box为基准，和其他box计算的结果；第二行则是以置信度次高的box为基准，和其他box计算的结果。有了dev_mask之后可以通过行间的或运算获得最终的mask结果

bool dev_mask[boxes_num][boxes_num];
// nms kernel ...
bool mask[boxes_num];
for (int i = 0; i < boxes_num; ++i) {
    
  // 如果当前的基准box被删除，则不用计算当前的结果
  if (mask[i]) continue;
  // 前面的不用算，因为都是置信度高于当前基准box的
  for (int j = i + 1; j < boxes_num; ++j) {
    
    mask[boxes_num] |= dev_mask[i][j];
  }
}

作者用unsigned lon