OpenCV运行gstreamer管道获取相机数据，处理以后，再交给gstreamer显示（QT实现）

 效果：

前言

        无意中发现，OpenCV也可以运行gstreamer的命令管道，然后使用appsink来与OpenCV连接起来进行处理，在不断测试之下，先后实现了以下功能：

        1. OpenCV运行gstreamer命令，通过appsink传递给OpenCV显示

        2. OpenCV运行gstreamer命令，然后再把Mat图像数据通过appsrc传递给gstreamer显示

        3. 增加OpenCV处理，然后使用gstreamer的overlay绑定QT的QWidget显示出来

一、环境安装以及简单的测试demo

注意：

1. gstreamer和opencv的版本一定要匹配才行，比如目前使用的是gstreamer--1.16.3 ，opencv是4.2.0.  ，我没仔细去查具体的版本匹配，但是OpenCV3.4和gstreamer1.16肯定不匹配。

2. 虚拟机的路径是/usr/lib/x86_64-linux-gnu/ orin上是/usr/local/lib，在pro文件需要区分

安装OpenCV环境：

方法一：源码安装opencv参考：Jetson Orin NX 开发指南（5）: 安装 OpenCV 4.6.0 并配置 CUDA 以支持 GPU 加速_jetson安装opencv-CSDN博客

方法二：apt安装opencv开发库：sudo apt-get update sudo apt-get install libopencv-dev

我自己使用的是方法二，但是这个需要自己找到头文件、库那些位置。

安装gstreamer环境，请参考其他文章，或者以下：

sudo apt-get install -y libgstreamer1.0-0 \
            gstreamer1.0-plugins-base \
            gstreamer1.0-plugins-good \
            gstreamer1.0-plugins-bad \
            gstreamer1.0-plugins-ugly \
            gstreamer1.0-libav \
            gstreamer1.0-doc \
            gstreamer1.0-tools \
            libgstreamer1.0-dev \
            libgstreamer-plugins-base1.0-dev

sudo apt-get install libgstreamer1.0-dev libgstreamer-plugins-base1.0-dev libqt5gstreamer-dev libgtk-3-dev

sudo apt-get install libpng12-0 

源码功能：实现OpenCV运行gstreamer管道

pro文件：

QT       += core gui 

greaterThan(QT_MAJOR_VERSION, 4): QT += widgets
DESTDIR = $$PWD/bin
CONFIG += c++11
    
DEFINES += QT_DEPRECATED_WARNINGS

SOURCES += \
    main.cpp
 
#orin： 
CONFIG += link_pkgconfig
PKGCONFIG += opencv4
LIBS    += -L/usr/local/lib -lopencv_core -lopencv_highgui -lopencv_imgproc -lopencv_imgcodecs

INCLUDEPATH += \
		/usr/include/opencv2/

#虚拟机：
#CONFIG      += link_pkgconfig
#PKGCONFIG   += opencv4
#LIBS        += -L/usr/lib/x86_64-linux-gnu/ -lopencv_core -lopencv_highgui -lopencv_imgproc -lopencv_imgcodecs -lopencv_videoio
#INCLUDEPATH += /usr/include/opencv4/opencv2

main.cpp文件：

注意：如果没有相机，可以把下面的 v4l2src device=/dev/video0 换成 videotestsrc

#include <opencv2/opencv.hpp>

int main() {
    // GStreamer pipeline字符串
    std::string pipeline = "v4l2src device=/dev/video0 ! video/x-raw, width=640, height=480 ! videoconvert ! video/x-raw,format=BGR ! appsink  sync=0 drop=1";

    // 使用 GStreamer 捕获视频流
    cv::VideoCapture cap(pipeline, cv::CAP_GSTREAMER);

    // 检查捕获是否成功打开
    if (!cap.isOpened()) {
        std::cout << "Error opening video stream" << std::endl;
        return -1;
    }

    // 读取并显示视频流
    cv::Mat frame;
    while (true) {
        cap >> frame;  // 从视频流中读取帧
        if (frame.empty()) break;  // 如果帧为空，则退出循环
        cv::imshow("Video", frame);  // 显示帧
        if (cv::waitKey(1) == 27) break;  // 按下 ESC 键退出循环
    }

    // 释放 VideoCapture 对象
    cap.release();
    cv::destroyAllWindows();

    return 0;
}

如果可以实现播放视频，就说明成功。

二、OpenCV运行gstreamer命令，通过appsink传递给OpenCV显示，然后通过appsrc传递回gstreamer，通过overlay绑定QWidget

pro文件： （相关的库，需要按照自己的配）

QT       += core gui # multimediawidgets

greaterThan(QT_MAJOR_VERSION, 4): QT += widgets
DESTDIR = $$PWD/bin
CONFIG += c++11


DEFINES += QT_DEPRECATED_WARNINGS

SOURCES += \
    main.cpp


# Default rules for deployment.
qnx: target.path = /tmp/$${TARGET}/bin
else: unix:!android: target.path = /opt/$${TARGET}/bin
!isEmpty(target.path): INS