社交距离检测


在新冠疫情危机中,减少人群的聚集是减少传播的重要措施之一。减少亲密接触,从而减少传染病的传播,那么保持安全的社交距离则显得尤为重要。

具体的实现步骤大致如下:

  1. 训练目标检测模型
  2. 用得到的模型检测视频流中的所有人
  3. 检测人与人之间的距离

(一)训练模型(paddleX)

模型的训练,这里是使用百度飞桨(paddlepaddle),使用使用PaddleX提供的PPYOLO模型,在VOC2012数据集进行训练;

什么是PaddleX:PaddleX是基于飞桨核心框架、开发套件和工具组件的深度学习全流程开发工具。具备 全流程打通 、融合产业实践 、易用易集成 三大特点(非常好用,吹爆)。具体怎么用,参考下面的链接
传送门.

首先当然是搭建我们的环境,这里因为可以白嫖百度飞桨的算力资源(GPU:Tesla V100,Video Mem:16GB,CPU: 4 Croes,RAM:32GB,Disk:100GB),所以是在AIStudio上的notebook(类似于Jupyter Notebook)进行的模型训练。这里使用的paddlex下的PPYOLO进行迁移学习训练模型,所以我们就不用搞那么复杂了,就不需要自己一层层的搭建网络了

至于代码,我就不一行行的解释了,上面官方链接里写的很清楚,这里仅附上我训练的代码

这是我在AIStudio训练该模型的项目传送门.

代码如下:


import os
os.environ['CUDA_VISIBLE_DEVICES'] = '0'

import paddlex as pdx
from paddlex.det import transforms

# 定义训练和验证时的transforms
# API说明 https://paddlex.readthedocs.io/zh_CN/develop/apis/transforms/det_transforms.html
train_transforms = transforms.Compose([
    transforms.MixupImage(mixup_epoch=250), transforms.RandomDistort(),
    transforms.RandomExpand(), transforms.RandomCrop(), transforms.Resize(
        target_size=512, interp='RANDOM'), transforms.RandomHorizontalFlip(),
    transforms.Normalize()
])

eval_transforms = transforms.Compose([
    transforms.Resize(
        target_size=512, interp='CUBIC'), transforms.Normalize()
])

# 定义训练和验证所用的数据集
# API说明:https://paddlex.readthedocs.io/zh_CN/develop/apis/datasets.html#paddlex-datasets-vocdetection
train_dataset = pdx.datasets.VOCDetection(
    data_dir='work/voc2012',
    file_list='work/voc2012/train_list.txt',
    label_list='work/voc2012/labels_list.txt',
    transforms=train_transforms,
    shuffle=True)
eval_dataset = pdx.datasets.VOCDetection(
    data_dir='work/voc2012',
    file_list='work/voc2012/val_list.txt',
    label_list='work/voc2012/labels_list.txt',
    transforms=eval_transforms)

# 初始化模型,并进行训练
# 可使用VisualDL查看训练指标,参考https://paddlex.readthedocs.io/zh_CN/develop/train/visualdl.html
num_classes = len(train_dataset.labels)

# API说明: https://paddlex.readthedocs.io/zh_CN/develop/apis/models/detection.html#paddlex-det-yolov3
model = pdx.det.PPYOLO(num_classes=num_classes)

# API说明: https://paddlex.readthedocs.io/zh_CN/develop/apis/models/detection.html#train
# 各参数介绍与调整说明:https://paddlex.readthedocs.io/zh_CN/develop/appendix/parameters.html
model.train(
    num_epochs=20,
    train_dataset=train_dataset,
    train_batch_size=4,
    eval_dataset=eval_dataset,
    learning_rate=0.00025,
    lr_decay_epochs=[10, 15],
    save_interval_epochs=4,
    log_interval_steps=100,
    save_dir='output/ppyolo',
    pretrain_weights='IMAGENET',
    use_vdl=True)

剩下的就是等待了,我是早上(2021-01-13 10:21:33)开始训练的,到下午(2021-01-13 14:46:20)就训练好了。因为我这里Epoch设置的小了点,还有一些训练参数设置的不够好,导致训练出的模型效果不是很好,时间有限,所以就没有继续优化了,所以下面使用的是飞桨已经训练好的YOLOv3-MobileNetV1模型进行图像的目标检测

PS:这里要说的是,其实在精度上,PPYOIO要比YOLOv3-MobileNetV1好,但因为我这里训练参数没有调好,所以训练出来模型效果不是很好(也不是一塌糊涂,但相比于飞桨已经训练好的YOLOv3-MobileNetV1),后面有时间的话,还会继续调参继续优化的。

(二)使用模型进行目标检测(YOLOv3-MobileNetV1)

这是我在AIStudio进行行人社交距离检测的项目链接传送门.
PS:在我AIStudio的项目下有一个work文件夹有不同的模型及权重参数,小伙伴们可以在pdx.load_model函数中指定文件位置即可

有啥看不懂的,就看上面我附上的paddlex的说明文档就明白了

import paddlex as pdx

model = pdx.load_model('yolov3_mobilenetv1_coco')
result = model.predict('3.jpg')
pdx.det.visualize('3.jpg', result, threshold=0.3, save_dir='./')

这里是模型的权重参数:传送门.
提取码:wj2g(可自取)

实现大致效果如下:
在这里插入图片描述
上面代码中result返回值是列表类型,列表中每个元素均为一个dict,key包括’bbox’, ‘category’, ‘category_id’, ‘score’,分别表示每个预测目标的框坐标信息、类别、类别id、置信度,其中框坐标信息为[xmin, ymin, w, h],即左上角x, y坐标和框的宽和高。

所以下面我们要做的就是对预测结果进行筛选,只提取和人相关的即可,然后就是,将每个矩形框的中心设置为每个人的中心,以每个人的中心为圆心,矩形框高度的一半为半径。当两个人中心之间的距离小于两个人之间的半径距离之和时,即认为两个人之间的距离小于安全的社交距离,然后用红色的矩形框将两人框起来,并且用蓝色的线条将两人连接,如果某人与任何人的距离都大于安全的社交距离,则用绿色框将其框住。然后在图像下方显示图像中的总人数和小于安全距离的总人数

代码如下:

import paddlex as pdx
import cv2
from scipy.spatial import distance

test_jpg = '3.jpg'
model = pdx.load_model('yolov3_mobilenetv1_coco')


# predict接口并未过滤低置信度识别结果,用户根据需求按score值进行过滤
result = model.predict(test_jpg)

def bounding_box(outs):#筛选目标为人和提取坐标的函数

    boxes = []
    for out in outs:
        class_id=out['category_id']
        if class_id == 0:
            # 0 is ID of persons
            confidence = out['score']
            if confidence > 0.35:
                x = int(out['bbox'][0])
                y = int(out['bbox'][1])
                w = int(out['bbox'][2])
                h = int(out['bbox'][3])
                boxes.append([x, y, w, h])    

    return boxes

boxes=bounding_box(result)

frame=cv2.imread('3.jpg')
circles = []
for i in range(len(boxes)):#生成圆心和半径
    x, y = int(boxes[i][0]), int(boxes[i][1])
    w, h = int(boxes[i][2]), int(boxes[i][3])
    frame = cv2.circle(frame, ( x + w // 2,y + h // 2), 5, (255, 20, 200), -1)
    circles.append([x + w // 2, y + h // 2, h/2])#这里用人的高度做距离的检测半径

indexes = []
for i in range(len(circles)):#计算人与人之间的距离,并将距离小于安全距离的坐标索引进行保存
    x1, y1, r1 = circles[i]
    for j in range(i + 1, len(circles)):
        x2, y2, r2 = circles[j]
        if distance.euclidean((x1,y1),(x2,y2))<(r1+r2):
            indexes.append(i)
            indexes.append(j)

            cv2.line(frame, (x1, y1), (x2, y2), (255, 0, 0), 2)

num=0
for (i, (x, y, w,h)) in enumerate(boxes):
    if i in indexes:
        num=num+1
        color=(0,0,255)#安全距离之外的,为红色

        color=(0,255,0)#安全距离之外的,为绿色

    cv2.rectangle(frame, (x, y), (x+w, y+h), color, 2)

			


cv2.rectangle(frame, (0,  frame.shape[0] - 50), (frame.shape[1], frame.shape[0]), (0, 255, 0), -1)
cv2.putText(frame,"Total Persons : " + str(len(boxes)),(0,  frame.shape[0]-10 ),
            fontFace=cv2.QT_FONT_NORMAL,fontScale=1,color=(0, 0, 0))
cv2.putText(frame,"Alarm : " + str(num),(frame.shape[1]//2,  frame.shape[0]-10),
            fontFace=cv2.QT_FONT_NORMAL,fontScale=1,color=(0,0,255))

cv2.imwrite('frame.jpg',frame)

效果如下:
在这里插入图片描述

下面是对视频流的处理
方法与图片的类似,这里引入了moviepy库,对图像进行处理,至于怎么使用,可自行baidu,这里就不解释了,下面是一个写的比较好的,小伙伴们,可以看看
传送门.

视频流处理的代码:

import cv2
import paddlex as pdx
from scipy.spatial import distance
from moviepy.editor import VideoFileClip


model = pdx.load_model('yolov3_mobilenetv1_coco')

# predict接口并未过滤低置信度识别结果,用户根据需求按score值进行过滤

def bounding_box(outs):
    boxes = []
    for out in outs:
        class_id = out['category_id']
        if class_id == 0:
            # 0 is ID of persons
            confidence = out['score']
            if confidence > 0.35:
                w = int(out['bbox'][2])
                h = int(out['bbox'][3])
                x = int(out['bbox'][0])
                y = int(out['bbox'][1])
                boxes.append([x, y, w, h])

    return boxes

def op(frame):
    result = model.predict(frame)

    boxes = bounding_box(result)

    circles = []
    for i in range(len(boxes)):
        x, y = int(boxes[i][0]), int(boxes[i][1])
        w, h = int(boxes[i][2]), int(boxes[i][3])
        frame = cv2.circle(frame, (x + w // 2, y + h // 2), 5, (255, 201, 201), -1)
        circles.append([x + w // 2, y + h // 2, h / 2])  # 这里用人的高度做距离的检测半径

    indexes = []
    for i in range(len(circles)):
        x1, y1, r1 = circles[i]
        for j in range(i + 1, len(circles)):
            x2, y2, r2 = circles[j]
            if distance.euclidean((x1, y1), (x2, y2)) < (r1 + r2):
                indexes.append(i)
                indexes.append(j)

                cv2.line(frame, (x1, y1), (x2, y2), (0, 0, 255), 2)

    num = 0
    for (i, (x, y, w,h)) in enumerate(boxes):
        if i in indexes:
            num = num + 1
            color = (255, 0, 0)
        else:
            color = (0, 255, 0)

        cv2.rectangle(frame, (x, y), (x+w, y+h), color, 2)

    cv2.rectangle(frame, (0, frame.shape[0] - 50), (frame.shape[1], frame.shape[0]), (0, 255, 0), -1)
    cv2.putText(frame, "Total Persons : " + str(len(boxes)), (0, frame.shape[0] - 10),
                fontFace=cv2.QT_FONT_NORMAL, fontScale=1, color=(0, 0, 0))
    cv2.putText(frame, "Warning : " + str(num), (frame.shape[1] // 2, frame.shape[0] - 10),
                fontFace=cv2.QT_FONT_NORMAL, fontScale=1, color=(0, 0, 255))

    return frame


clip=VideoFileClip('1.mp4')
out_put=clip.fl_image(op)
out_put.write_videofile('out_put.mp4')

效果如下(有兴趣的小伙伴可以看看,效果还不错):
视频传送门

用paddlex是不是很简单,其简明易懂的Python API,方便用户根据实际生产需求进行直接调用或二次开发,为开发者提供飞桨全流程开发的最佳实践,真的是太好用了,妈妈再也不用担心我炼丹(Deep learning)了,总之就是非常好用。

(三)结语

木有了

如果有什么错误的地方,还请大家批评指正。最后,希望小伙伴们都能有所收获。

在这里插入图片描述

1 目标检测的定义 目标检测(Object Detection)的任务是找出图像中所有感兴趣的目标(物体),确定它们的类别和位置,是计算机视觉领域的核心问题之一。由于各类物体有不同的外观、形状和姿态,加上成像时光照、遮挡等因素的干扰,目标检测一直是计算机视觉领域最具有挑战性的问题。 目标检测任务可分为两个关键的子任务,目标定位和目标分类。首先检测图像中目标的位置(目标定位),然后给出每个目标的具体类别(目标分类)。输出结果是一个边界框(称为Bounding-box,一般形式为(x1,y1,x2,y2),表示框的左上角坐标和右下角坐标),一个置信度分数(Confidence Score),表示边界框中是否包含检测对象的概率和各个类别的概率(首先得到类别概率,经过Softmax可得到类别标签)。 1.1 Two stage方法 目前主流的基于深度学习的目标检测算法主要分为两类:Two stage和One stage。Two stage方法将目标检测过程分为两个阶段。第一个阶段是 Region Proposal 生成阶段,主要用于生成潜在的目标候选框(Bounding-box proposals)。这个阶段通常使用卷积神经网络(CNN)从输入图像中提取特征,然后通过一些技巧(如选择性搜索)来生成候选框。第二个阶段是分类和位置精修阶段,将第一个阶段生成的候选框输入到另一个 CNN 中进行分类,并根据分类结果对候选框的位置进行微调。Two stage 方法的优点是准确度较高,缺点是速度相对较慢。 常见Tow stage目标检测算法有:R-CNN系列、SPPNet等。 1.2 One stage方法 One stage方法直接利用模型提取特征值,并利用这些特征值进行目标的分类和定位,不需要生成Region Proposal。这种方法的优点是速度快,因为省略了Region Proposal生成的过程。One stage方法的缺点是准确度相对较低,因为它没有对潜在的目标进行预先筛选。 常见的One stage目标检测算法有:YOLO系列、SSD系列和RetinaNet等。 2 常见名词解释 2.1 NMS(Non-Maximum Suppression) 目标检测模型一般会给出目标的多个预测边界框,对成百上千的预测边界框都进行调整肯定是不可行的,需要对这些结果先进行一个大体的挑选。NMS称为非极大值抑制,作用是从众多预测边界框中挑选出最具代表性的结果,这样可以加快算法效率,其主要流程如下: 设定一个置信度分数阈值,将置信度分数小于阈值的直接过滤掉 将剩下框的置信度分数从大到小排序,选中值最大的框 遍历其余的框,如果和当前框的重叠面积(IOU)大于设定的阈值(一般为0.7),就将框删除(超过设定阈值,认为两个框的里面的物体属于同一个类别) 从未处理的框中继续选一个置信度分数最大的,重复上述过程,直至所有框处理完毕 2.2 IoU(Intersection over Union) 定义了两个边界框的重叠度,当预测边界框和真实边界框差异很小时,或重叠度很大时,表示模型产生的预测边界框很准确。边界框A、B的IOU计算公式为: 2.3 mAP(mean Average Precision) mAP即均值平均精度,是评估目标检测模型效果的最重要指标,这个值介于0到1之间,且越大越好。mAP是AP(Average Precision)的平均值,那么首先需要了解AP的概念。想要了解AP的概念,还要首先了解目标检测中Precision和Recall的概念。 首先我们设置置信度阈值(Confidence Threshold)和IoU阈值(一般设置为0.5,也会衡量0.75以及0.9的mAP值): 当一个预测边界框被认为是True Positive(TP)时,需要同时满足下面三个条件: Confidence Score > Confidence Threshold 预测类别匹配真实值(Ground truth)的类别 预测边界框的IoU大于设定的IoU阈值 不满足条件2或条件3,则认为是False Positive(FP)。当对应同一个真值有多个预测结果时,只有最高置信度分数的预测结果被认为是True Positive,其余被认为是False Positive。 Precision和Recall的概念如下图所示: Precision表示TP与预测边界框数量的比值
评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值