opencv视频教程linux,使用深度学习和OpenCV 进行视频目标检测

使用OpenCV和Python上对实时视频流进行深度学习目标检测是非常简单的，我们只需要组合一些合适的代码，接入实时视频，随后加入原有的目标检测功能。

本文分两个部分。在第一部分中，我们将学习如何扩展原有的目标检测项目，使用深度学习和OpenCV将应用范围扩展到实时视频流和视频文件中。这个任务会通过VideoStream类来完成。

深度学习目标检测教程：http://www.pyimagesearch.com/2017/09/11/object-detection-with-deep-learning-and-opencv/

VideoStream类教程：http://www.pyimagesearch.com/2016/01/04/unifying-picamera-and-cv2-videocapture-into-a-single-class-with-opencv/

现在，我们将开始把深度学习+目标检测的代码应用于视频流中，同时测量FPS处理速度。

使用深度学习和OpenCV进行视频目标检测

为了构建基于OpenCV深度学习的实时目标检测器，我们需要有效地接入摄像头/视频流，并将目标检测应用到每一帧里。

首先，我们打开一个新文件，将其命名为real_time_object_detection.py，随后加入以下代码：

我们从第2-8行开始导入封包。在此之前，你需要imutils和OpenCV3.3。在系统设置上，你只需要以默认设置安装OpenCV即可(同时确保你遵循了所有Python虚拟环境命令)。

Note：请确保自己下载和安装的是OpenCV3.3(或更新版本)和OpenCV-contrib版本(适用于OpenCV3.3)，以保证其中包含有深度神经网络模块。

下面，我们将解析这些命令行参数：

与此前的目标检测项目相比，我们不需要图像参数，因为在这里我们处理的是视频流和视频——除了以下参数保持不变：

--prototxt：Caffeprototxt文件路径。

--model：预训练模型的路径。

--confidence：过滤弱检测的最小概率阈值，默认值为20%。

随后，我们初始化类列表和颜色集：

在第22-26行，我们初始化CLASS标签，和相应的随机COLORS。有关这些类的详细信息(以及网络的训练方式)，请参考：http://www.pyimagesearch.com/2017/09/11/object-detection-with-deep-learning-and-opencv/

现在，我们加载自己的模型，并设置自己的视频流：

我们加载自己的序列化模型，提供对自己的prototxt和模型文件的引用(第30行)，可以看到在OpenCV3.3中，这非常简单。

下一步，我们初始化视频流(来源可以是视频文件或摄像头)。首先，我们启动VideoStream(第35行)，随后等待相机启动(第36行)，最后开始每秒帧数计算(第37行)。VideoStream和FPS类是imutils包的一部分。

现在，让我们遍历每一帧(如果你对速度要求很高，也可以跳过一些帧)：

首先，我们从视频流中读取一帧(第43行)，随后调整它的大小(第44行)。由于我们随后会需要宽度和高度，所以我们在第47行上进行抓取。随后将frame转换为一个有dnn模块的blob(第48行)。

现在，我们设置blob为神经网络的输入(第52行)，通过net传递输入(第53行)，这给我们提供了detections。

这时，我们已经在输入帧中检测到了目标，现在是时候看看置信度的值，以判断我们能否在目标周围绘制边界框和标签了：

我们首先在detections内循环，记住一个图像中可以检测到多个目标。我们还需要检查每次检测的置信度(即概率)。如果置信度足够高(高于阈值)，那么我们将在终端展示预测，并以文本和彩色边界框的形式对图像作出预测。让我们逐行来看一下：

在detections内循环，首先我们提取confidence值(第59行)。

如果confidence高于最低阈值(第63行)，那么我们提取类标签索引(第67行)，并计算检测到的目标的坐标(第68行)。

然后，我们提取边界框的(x,y)坐标(第69行)，之后将用于绘制矩形和文本。

我们构建一个文本label，包含CLASS名称和confidence(第72、73行)。

我们还要使用类颜色和之前提取的(x,y)坐标在物体周围绘制彩色矩形(第74、75行)。

通常，我们希望标签出现在矩形上方，但是如果没有空间，我们将在矩形顶部稍下的位置展示标签(第76行)。

最后，我们使用刚才计算出的y值将彩色文本置于帧上(第77、78行)。

帧捕捉循环剩余的步骤还包括：(1)展示帧；(2)检查quit键；(3)更新fps计数器：

上述代码块简单明了，首先我们展示帧(第81行)，然后找到特定按键(第82行)，同时检查「q」键(代表「quit」)是否按下。如果已经按下，则我们退出帧捕捉循环(第85、86行)。最后更新fps计数器(第89行)。

如果我们退出了循环(「q」键或视频流结束)，我们还要处理这些：

当我们跳出(exit)循环，fps计数器停止(第92行)，每秒帧数的信息向终端输出(第93、94行)。

我们关闭窗口(第97行)，然后停止视频流(第98行)。

如果你到了这一步，那就可以做好准备用自己的网络摄像头试试看它是如何工作的了。我们来看下一部分。

实时深度学习目标检测的结果

为了实时深度学习目标检测器正常运行，确保你使用本指南「Downloads」部分中的示例代码和预训练的卷积神经网络。(请打开原文链接，进入「Downloads」部分，输入自己的邮箱地址，获取所需代码和其他资料。)

打开终端，执行下列命令：

如果OpenCV能够访问你的摄像头，你可以看到带有检测到的目标的输出视频帧。我对样本视频使用了深度学习目标检测，结果如下：

图1：使用深度学习和OpenCV+Python进行实时目标检测的短片。

注意深度学习目标检测器不仅能够检测到人，还能检测到人坐着的沙发和旁边的椅子——所有都是实时检测到的！

总结

今天的博客中，我们学习了如何使用深度学习+OpenCV+视频流来执行实时目标检测。我们通过下列两个教程完成了这一目标：

1.使用深度学习和OpenCV进行目标检测(http://www.pyimagesearch.com/2017/09/11/object-detection-with-deep-learning-and-opencv/)

2.在OpenCV上进行高效、线程化的视频流(http://www.pyimagesearch.com/2016/01/04/unifying-picamera-and-cv2-videocapture-into-a-single-class-with-opencv/)

最终结果是基于深度学习的目标检测器可以处理6-8个FPS的视频(当然，这也取决于你的系统速度)。

你还可以通过以下途径进一步提升速度：

1.跳过帧。

2.使用MobileNet的不同变体(速度更快，但是准确率下降)。

3.使用SqueezeNet的量子化变体(我还未对此进行测试，但是我想应该会更快，因为它的网络足迹更小)。