第一节
DAVINCI视频处理硬件
从图-1可以看出,VPFE系统可以接CCD或者CMOS sensor,同时也可以接视频解码芯片,目前Montavista Linux-2.6.18驱动给出的TI EVM驱动支持MT9T001 CMOS芯片和TVP5146视频解码芯片,VPFE采用RAW模式控制MT9T001 CMOS芯片,数码相机产品基本是这种应用方式,而VPFE采用BT601或BT656的方式控制TVP5146视频解码芯片,很多做安防、机器视觉等的方案都是这种模式,因为这种方式最普通,视频前端买个普通的CCD摄像机,接条视频线和电源,就可以用通过类似TVP5146的芯片采集到图像了,本人也着重介绍这种情况。而图-1里边的Resizer(图像缩放1/4x~4x)、Preview(预览器)、H3A(硬件自动白平衡、自动对焦、自动曝光)、Histogram(
直方图)是对采集到的视频进行处理,一般常用到的是Resizer,不需要占用ARM和DSP的资源,对采集到的YUV422数据进行处理,然后才提交给H264等算法进行压缩,这一点可以在dvsdk_2_00_00_22\dvsdk_demos_2_00_00_07\dm6446里边的例子体现到。
VPBE系统可以对处理后的视频(VIDEO)数据或图像(IMAGE)进行处理和输出,一般用户可以通过OSD功能叠加自己的LOGO、字符、时间、坐标、框图等信息,然后通过VENC模块输出到DAC或者LCD接口。
VPFE和VPBE所有的数据交换都是在DDR上处理,VPFE采集的视频数据,比如YUV422格式(U0Y0V0Y1)都有指定的DDR地址,而VPBE也有另外指定的DDR地址。
第二节
V4L2
采集驱动
对应上面的硬件处理过程,软件工程师最关心的是如何配置VPFE和VPBE的寄存器,如何实现DDR的视频数据视频缓冲处理,在LINUX内核里如何实现DMA处理。Montavista 的Linux-2.6.18 V4L2驱动源码已经帮客户实现VPFE和VPBE的处理,他们的源码目录是linux-2.6.18_pro500\drivers\media\video\和linux-2.6.18_pro500\drivers\media\video\davinci目录。对于LINUX驱动工程师,首先先按以下三个图配置Montavista linux-2.6.18_pro500的内核,让linux-2.6.18_pro500支持V4L2。
图-2 配置Multimedia devices
图-3 配置采集选项
图-4 配置VPBE DISPLAY选项
然后再去到驱动driver文件夹找到相关文件。
VPFE采集涉及到下面几个文件:
VPBE输出涉及到:
V4L2驱动:
在linux-2.6.18_pro500\drivers\media\video目录里,
这些函数比较复杂,V4L2必须和davinci_vpfe.c、vpbe_encoder.c配合,借助davinci_vpfe.c提供的接口函数,LINUX应用程序才能控制TVP5156和CCDC采集;V4L2负责对采集到的视频数据进行管理,包括DMA和缓冲处理,Montavista已经帮客户搞定这些,我们需要的做的就是学习人家是如何实现这些处理的。本公司的开发板采用的是TVP5158芯片,见,
http://zjbintsystem.blog.51cto.com/964211/392221。移植修改基本上是上面的几个VPFE采集源文件。至于我们板子上的美光MT9M112、MT9D112等类似CMOS芯片的控制,基本也是修改上面的几个VPFE采集源文件。
第三节
V4L2
例子源码分析
1
、
Makefile
修改
下面的Makefile的内容也适合于其他LINUX应用程序,
# Makefile for v4l2 application
CROSSCOMPILE = arm_v5t_le-
CC=$(CROSSCOMPILE)gcc
LD=$(CROSSCOMPILE)ld
OBJCOPY=$(CROSSCOMPILE)objcopy
OBJDUMP=$(CROSSCOMPILE)objdump
INCLUDE = /home/davinci/dm6446/ty-dm6446-1000/linux-2.6.18_pro500/include
(本人把产品级的linux-2.6.18_pro500放到上面的目录,ty-dm6446-1000是本人公司深圳桐烨科技的一个DM6446产品)
all: tvp5146_v4l2_mmap
tvp5146_v4l2_mmap: v4l2_mmap_loopback.c
(自动COPY到NFS进行调试)
%.o:%.c
clean:
2
、下面通过分析
v4l2_mmap_loopback.c
的源码,从应用层的角度讨论
V4L2
的原理:
#include
#include
#include
#include
#include
。。。。。。。。。。。。。。。。。。。。。。。。。。
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#define CAPTURE_DEVICE
"/dev/video0" 文件系统中采集驱动用到的设备节点
#define WIDTH_NTSC
720
#define HEIGHT_NTSC
480 视频NTSC制式
#define WIDTH_PAL
720
#define HEIGHT_PAL
576 视频PAL支持
#define MIN_BUFFERS
2 采集时存放YUV视频数据的缓冲数,做到乒乓BUFFER,
#define UYVY_BLACK
0x10801080无图像的YUV值处理
#define VID0_DEVICE
"/dev/video2"
文件系统中DISPLAY输出设备节点(对照内核驱动davinci_display.c)
#define VID1_DEVICE
"/dev/video3"文件系统中DISPLAY输出设备节点
#define OSD0_DEVICE
"/dev/fb/0"文件系统中OSD0设备节点
#define OSD1_DEVICE
"/dev/fb/2"文件系统中OSD1设备节点
#define SUCCESS
0
#define FAILURE
-1
#define YUV_422_BPP
16
#define BITMAP_BPP_8
8
#define DISPLAY_INTERFACE
"COMPOSITE"显示输出定义复合视频输出
#define DISPLAY_MODE_PAL
"PAL"显示输出定义PAL制输出
#define DISPLAY_MODE_NTSC
"NTSC"显示输出定义NTSC制输出
#define round_32(width)
((((width) + 31) / 32) * 32 ) 字节对齐
#define ATTRIB_MODE
"mode"
#define ATTRIB_OUTPUT
"output"
#define LOOP_COUNT
500 本例子采集多少帧就停止运行(PAL制每秒25帧)
介绍完v4l2_mmap_loopback.c的前面部分的定义,我们可以开始熟悉V4L2,这里借用网友的描述,顺便加入本人的分析。
Video4linux2一般操作流程(视频设备):
1. 打开设备文件。 int fd=open(”/dev/video0″,O_RDWR);
2. 取得设备的capability,看看设备具有什么功能,比如是否具有视频输入等。VIDIOC_QUERYCAP,struct v4l2_capability
3. 选择视频输入,一个视频设备可以有多个视频输入。VIDIOC_S_INPUT,struct v4l2_input
4. 设置视频的制式和帧格式,制式包括PAL,NTSC,帧的格式个包括宽度和高度等。
VIDIOC_S_STD,VIDIOC_S_FMT,struct v4l2_std_id,struct v4l2_format
5. 向驱动申请帧缓冲,一般不超过5个。struct v4l2_requestbuffers
6. 将申请到的帧缓冲映射到用户空间,这样就可以直接操作采集到的帧了,而不必去复制。
7. 将申请到的帧缓冲全部入队列,以便存放采集到的数据.VIDIOC_QBUF,struct v4l2_buffer
8. 开始视频的采集。VIDIOC_STREAMON
9. 出队列以取得已采集数据的帧缓冲,取得原始采集数据。VIDIOC_DQBUF
10. 将缓冲重新入队列尾,这样可以循环采集。VIDIOC_QBUF
11. 停止视频的采集。VIDIOC_STREAMOFF
12. 关闭视频设备。close(fd);
常用的结构体(参见linux-2.6.18_pro500/include/linux/include/linux/videodev2.h):
struct v4l2_requestbuffers reqbufs;//向驱动申请帧缓冲的请求,里面包含申请的个数
struct v4l2_capability cap;//这个设备的功能,比如是否是视频输入设备
struct v4l2_input input; //视频输入
struct v4l2_standard std;//视频的制式,比如PAL,NTSC
struct v4l2_format fmt;//帧的格式,比如宽度,高度等
struct v4l2_buffer buf;//代表驱动中的一帧
v4l2_std_id stdid;//视频制式,例如:V4L2_STD_PAL
struct v4l2_queryctrl query;//查询的控制
struct v4l2_control control;//具体控制的值
3
、
V4L2
采集过程
打开视频设备
/用非阻塞模式打开采集设备,见init_capture_device()函数,fdCapture在本例子中定义为全局变量,
如果用阻塞模式打开采集设备,上述代码变为:
if ((fdCapture = open(CAPTURE_DEVICE, O_RDWR, 0)) <= -1) {
关于阻塞模式和非阻塞模式,应用程序能够使用阻塞模式或非阻塞模式打开视频设备,如果使用非阻塞模式调用视频设备,即使尚未捕获到信息,驱动依旧会把缓存(DQBUFF)里的东西返回给应用程序。
设定属性及采集方式
extern int ioctl (int __fd, unsigned long int __request, …) __THROW;
__fd:设备的ID,例如刚才用open函数打开视频通道后返回的fdCapture;
__request:具体的命令标志符。
在进行V4L2开发中,一般会用到以下的命令标志符:
1.
VIDIOC_REQBUFS:分配内存
2.
VIDIOC_QUERYBUF:把VIDIOC_REQBUFS中分配的数据缓存转换成物理地址
3.
VIDIOC_QUERYCAP:查询驱动功能
4.
VIDIOC_ENUM_FMT:获取当前驱动支持的视频格式
5.
VIDIOC_S_FMT:设置当前驱动的频捕获格式
6.
VIDIOC_G_FMT:读取当前驱动的频捕获格式
7.
VIDIOC_TRY_FMT:验证当前驱动的显示格式
8.
VIDIOC_CROPCAP:查询驱动的修剪能力
9.
VIDIOC_S_CROP:设置视频信号的边框
10.
VIDIOC_G_CROP:读取视频信号的边框
11.
VIDIOC_QBUF:把数据从缓存中读取出来
12.
VIDIOC_DQBUF:把数据放回缓存队列
13.
VIDIOC_STREAMON:开始视频显示函数
14.
VIDIOC_STREAMOFF:结束视频显示函数
15.
VIDIOC_QUERYSTD:检查当前视频设备支持的标准,例如PAL或NTSC。
这些IO调用,有些是必须的,有些是可选择的。他们可以从在内核中davinci_vpfe.c 里static int vpfe_doioctl(struct inode *inode, struct file *file,unsigned int cmd, void *arg)函数找到对应关系。
检查当前视频设备支持的标准和设置视频捕获格式
分配内存
在init_capture_buffers()里,使用VIDIOC_REQBUFS,我们获取了req.count个缓存,下一步通过调用VIDIOC_QUERYBUF命令来获取这些缓存的地址,然后使用mmap函数转换成应用程序中的绝对地址,最后把这段缓存放入缓存队列:
// 读取缓存
if (ioctl(fdCapture, VIDIOC_QUERYBUF, &buf) == -1) {
return -1;
}
buffers[numBufs].length = buf.length;
// 转换成相对地址
buffers[nIndex].length = buf.length;
buffers[nIndex].start =
mmap(NULL, buf.length, PROT_READ | PROT_WRITE,
MAP_SHARED, fdCapture, buf.m.offset);
启动开始采集
// 放入缓存队列
if (ioctl(fdCapture, VIDIOC_QBUF, &buf) == -1) {
return -1;
}}
type = V4L2_BUF_TYPE_VIDEO_CAPTURE;
if (-1 == ioctl(fdCapture, VIDIOC_STREAMON, &type))
printf("start_streaming:ioctl:VIDIOC_STREAMON:\n");
关于视频采集方式
一共有三种视频采集方式:使用read、write方式;内存映射方式和用户指针模式。
read、write方式:在用户空间和内核空间不断拷贝数据,占用了大量用户内存空间,效率不高。
内存映射方式:把设备里的内存映射到应用程序中的内存控件,直接处理设备内存,这是一种有效的方式。上面的mmap函数就是使用这种方式。
用户指针模式:内存片段由应用程序自己分配。这点需要在v4l2_requestbuffers里将memory字段设置成V4L2_MEMORY_USERPTR。
处理采集数据
struct v4l2_buffer buf;
memset(&buf,0,sizeof(buf));
buf.type=V4L2_BUF_TYPE_VIDEO_CAPTURE;
buf.memory=V4L2_MEMORY_MMAP;
buf.index=0;
//读取缓存
if (ioctl(fdCapture, VIDIOC_DQBUF, &buf) == -1)
{
return -1;
}
//…………视频处理算法
//重新放入缓存队列
if (ioctl(fdCapture, VIDIOC_QBUF, &buf) == -1) {
return -1;
}
关闭视频设备
使用close函数关闭一个视频设备
close(fdCapture)
4
、
V4L2
显示输出
可以看出LOOPBACK方式的操作memcpy(dest, src, disppitch),直接把采集的数据(720x576x2)字节放到视频输出缓冲dest,disppitch=1440,,就是一行UYVY的自己是1440。
第四节
DVSDK2.0
有关
V4L2
的例子分析
第五节后记