rk3399上opencv使用gstreamer访问mipi摄像头

环境

硬件：友善之臂NanoPi T4

rk3399：

• Big.Little 架构：双核Cortex-A72 + 四核 Cortex-A53 架构，64位CPU
• 主频超过1.8GHz

软件：rk3399-eflasher-friendlydesktop-bionic-4.4-arm64-20181219.img

这是友善之臂定制的一个基于ubuntu18.04的64位操作系统。

探索思路

自己买了一个配套的mipi接口的0v4689摄像头。官方的例子是通过一个shell脚本来访问的，通过打印信息，发现最终执行的命令如下：

gst-launch-1.0 rkisp io-mode=4 path-iqf=/etc/cam_iq/rk-ov4689.xml ! video/x-raw,format=NV12,width=1280,height=720,framerate=30/1 ! rkximagesink

也就是调用gst-launch-1.0，使用gstreamer框架访问摄像头。

而我需要在程序中访问摄像头画面，特别是想在opencv中访问。

通过搜索发现，opencv也可以访问gstream的，但是ubuntu源或者pip安装的预编译版本未开启gstreamer,需要自己手动编译。

编译安装支持gstreamer版本的opencv

我下载的是opencv3.4.2的源码。在rk3399上编译安装。

编译之前需要安装依赖的包:

apt-get update
apt-get install -y libgstreamer1.0-0 \
            gstreamer1.0-plugins-base \
            gstreamer1.0-plugins-good \
            gstreamer1.0-plugins-bad \
            gstreamer1.0-plugins-ugly \
            gstreamer1.0-libav \
            gstreamer1.0-doc \
            gstreamer1.0-tools \
            libgstreamer1.0-dev \
            libgstreamer-plugins-base1.0-dev

apt-get install libpng12-0
apt-get install -y \
        build-essential \
        cmake \
        git
apt-get install -y pkg-config \
        libjpeg8-dev
apt-get install -y libgtk2.0-dev \
        libavcodec-dev \
        libavformat-dev \
        libswscale-dev \
        libv4l-dev \
        libatlas-base-dev \
        gfortran \
        libhdf5-dev
apt-get install libjpeg-dev
apt-get install libtiff4-dev
apt-get install -y libtbb-dev libeigen3-dev

编译opencv的cmake命令：

# cmake -D CMAKE_BUILD_TYPE=RELEASE -D CMAKE_INSTALL_PREFIX=/usr/local  -D INSTALL_C_EXAMPLES=OFF  -D INSTALL_PYTHON_EXAMPLES=ON   -D BUILD_EXAMPLES=ON  -D PYTHON_EXECUTABLE=/usr/bin/python3  -D PYTHON_NUMPY_INCLUDE_DIRS=/usr/local/lib/python3.6/dist-packages/numpy/core/include/  -D WITH_GSTREAMER=ON -D WITH_GTK=ON  -D WITH_GTHREAD=ON -D WITH_TBB=ON   -DWITH_OPENGL=ON  ..

注意上面我指定了python3的环境目录，因为一会我要用python接口调用opencv，只使用c++接口的可以去掉python相关的选项。-D WITH_GSTREAMER=ON是为了开启gstreamer。

编译和安装

# make -j 6 
# make install

测试代码

这里使用python调用opencv。

上面说了，shell脚本调用gst-launch-1.0的参数如下：

gst-launch-1.0 rkisp io-mode=4 path-iqf=/etc/cam_iq/rk-ov4689.xml ! video/x-raw,format=NV12,width=1280,height=720,framerate=30/1 ! rkximagesink

在opencv中构建gstreamer的pipeline需要调整为：

rkisp io-mode=4 path-iqf=/etc/cam_iq/rk-ov4689.xml ! video/x-raw,format=NV12,width=740 ,height=360,framerate=30/1  ! videoconvert !appsink

下面是完整代码：

import numpy as np
import cv2 as cv

#cap = cv.VideoCapture('demo.mp4')
cap = cv.VideoCapture('rkisp io-mode=4 path-iqf=/etc/cam_iq/rk-ov4689.xml ! video/x-raw,format=NV12,width=740 ,height=360,framerate=30/1 ! videoconvert ! appsink', cv.CAP_GSTREAMER)

if not cap.isOpened():
    print("Cannot capture from camera. Exiting.")
    os._exit()
last_time = time.time()

while(True):

    ret, frame = cap.read()
    cv.imshow('frame', frame)

    if cv.waitKey(1) & 0xFF == ord('q'):
        break

cap.release()
cv.destroyAllWindows()

我发现在NanoPC T4开发板上，这样访问摄像头对于画面分辨率会有要求，分辨率高于740x360就会出现画面上下割裂的情况，很像是两个线程处理一个buffer没同步好，我自己是gstreamer初学者，暂时不清楚怎么解决这个问题。不知道是rock官方该背锅还是友善之臂该背锅（论硬件平台成熟的重要性，此处省去三千字…）。而用gst-launch-1.0访问无论多大分辨率都不会有此问题。

我暂时只使用740x360这个分辨率。

割裂的画面如下：

其实割裂位置的上下画面都是流畅的，但是时间差了半秒左右，实在是神奇的很。

参考资料

TX2 上使用opencv 调用板载mipi摄像头：https://www.cnblogs.com/chay/p/10287902.html

这个人编译rock gstreamer很擅长：http://blog.sina.com.cn/s/blog_a6559d920102yy4o.html

编译opencv支持gstream的方法：https://github.com/junjuew/Docker-OpenCV-GStreamer/blob/master/opencv3-gstreamer1.0-Dockerfile

Ubuntu 18.04: How to install OpenCV https://www.pyimagesearch.com/2018/05/28/ubuntu-18-04-how-to-install-opencv/