ISP和IQ调试

什么是ISP

isp:

  • image signal process, 图像信号处理,这是技术
  • image signal processor, 图像信号处理器,这是设备
  • 本质:通过数字运算来修补前端采集的不理想数据,尽可能提升图像质量。
  • ISP处理器:核心是数字运算能力,在HI3516EV200中是内置DSP。
  • ISP主要坐下面的工作:
    AEC(自动曝光控制)、AGC(自动增益控制)、AWB(自动白平衡)、AF(自动对焦)色彩校正、Lens Shading、Gamma 校正、祛除坏点、Auto Black Level、Auto White Level

在哪里做ISP

  • 镜头–>sensor–>ISP–>VI–>…
  • isp单元可以在sensor中,独立,或集成到AP(HI3516EV200) Soc中,现在大多数在AP中
  • HI3516EV200中内置ISP单元
    在这里插入图片描述
  • lens 将光信号投射到 sensor 的感光区域后,
  • sensor 经过光电转换,
  • 将 Bayer 格式的原始图像送给 ISP,
  • ISP 经过算法处理,
  • 输出 RGB 空间域的图像给后端的视频采集单元。
  • 在这个过程中, ISP 通过运行在其上的 firmware 对 ISP逻辑, lens 和 sensor 进行相应控制,进而完成自动光圈、自动曝光、自动白平衡等功能。
  • 其中, firmware 的运转靠视频采集单元的中断驱动。
  • PQ Tools 工具通过网口或者串口完成对 ISP 的在线图像质量调节。
  • SP 由 ISP 逻辑及运行在其上的 Firmware 组成,逻辑单元除了完成一部分算法处理外,还可以统计出当前图像的实时信息。 Firmware 通过获取 ISP 逻辑的图像统计信息,重新计算,反馈控制 lens、 sensor 和 ISP 逻辑,以达到自动调节图像质量的目的。

* ISP可以参考

设计思路
ISP 的 Firmware 包含三部分:

  • 一部分是 ISP 控制单元和基础算法单元,即 ISP 库。
  • 一部分是 AE/AWB/AF 算法库。
  • 一部分是 sensor 库。
  • Firmware 设计的基本思想是单独提供 3A 算法库,由 ISP 控制单元调度基础算法单元和 3A 算法库,同时 sensor 库分别向ISP 库和 3A 算法库注册函数回调,以实现差异化的 sensor 适配。 ISP firmware
  • 设计思路如图所示。
    在这里插入图片描述

不同的 sensor 都向 ISP 库和 3A 算法库注册控制函数,这些函数都以回调函数的形式存在。 ISP 控制单元调度基础算法单元和 3A 算法库时,将通过这些回调函数获取初始化参数,并控制 sensor,如调节曝光时间、模拟增益、数字增益,控制 lens 步进聚焦或旋转光圈等。

注意:Sensor 3A只是为3A lib 提供最基本的操作,而不是一个完整的3A算法。

内部流程

  • 首先完成 Firmware 控制单元的初始化、基础算法单元的初始化、 3A 算法库的初始化,包括调用 sensor 的回调获取 sensor 差异化的初始
  • 化参数。当初始化完成之后, Firmware 由中断驱动,每帧从内核态获取统计信息,并驱动基础算法单元和 3A 算法库完成计算,并反馈计算结果,配置 ISP 寄存器和 sensor寄存器。
  • 同时用户可以通过 ISP 的 MPI,控制和改变 Firmware 中包含的基础算法单元的内部数据和状态,定制自己的图像质量效果。如果用户使用海思提供的 3A 算法库,可以通过3A 算法库的 MPI,改变 3A 算法库的内部数据和状态,调节曝光、白平衡和色彩还原。
  • ISP firmware 内部流程
    在这里插入图片描述

软件流程
ISP 作为图像前处理部分,需要和视频采集单元(VIU)协同工作。 ISP 初始化和基本配置完成后,需要 VIU 进行接口时序匹配。一是为了匹配不同 sensor 的输入时序,二是为 ISP 配置正确的输入时序。待时序配置完成后, ISP 就可以启动 Run 来进行动态图像质量调节。此时输出的图像被 VIU 采集,进而送去显示或编码。软件使用流程如图所示。
在这里插入图片描述

什么是IQ

  • IQ: image quality,图像质量。
  • 浅层次的图形质量问题:坏点,畸变,条纹,局部不清晰等
  • 高层次的图像质量问题:通透性,锐度,色彩饱满度,色彩还原度等。
  • 通透性:图片的清晰度,通透性低的话看起来模糊,
  • 锐度:图片中物理的轮廓,如果很低会导致轮廓不清晰
  • 色彩饱和度:颜色的鲜艳程度
  • 色彩还原度:颜色的真实性

总结

IQ是目的,ISP是手段,调试是方法
参考

本课程讲解sensor直接采集的图像都有各种不理想性,因此在编码前都会经过一个软件方式处理,这个处理就叫ISP,图像的IQ调试就是研究这些处理算法和实现的。常见的IQ调试技术如:线性纠正、噪声去除、黑电平校正、坏点去除、颜色插补、Gamma 校正、RGB2YUV 转换、主动白平衡处理、主动曝光控制、AE评估等。随着通信行业发展,网速越来越快,网络也从文本时代发展越过语音时代到了现在视频时代,“优酷、爱奇艺”、“微视频”、“直播”等的出现也是视频逐步成为主流媒体的证据和表现。航拍、视频监控、刷脸过关检测、汽车ADAS系统等应用也是视频在主流行业的应用,因此视频的采集、编解码、传输、识别等技术变得越来越有价值,涌现出了“海康威视”、“大华股份”、“深圳英飞拓”等一批明星企业,名扬海内外,动辄市值几百亿。同时在芯片级,国产华为海思HI35xx系列视频编解码方案也逐步取代进口芯片(如TI、安霸)成为主流方案。视频行业技术含量高、难度大、学习周期长、发展变化快而资料少,因此行业比较缺人、工资较高。如海康威视,普通高校硕士研究生应届进入年薪普遍高于15-20万,在嵌入式linux领域也算高工资技术方向了。本项目是朱老师及其团队推出的一个嵌入式linux领域重量级企业级实战项目,选用华为海思HI3518E方案,结合OV9712/AR0130 Sensor实现图像采集和H.264编码压缩,并通过ethernet和WIFI,以socket实时流和RTSP等方式,实现720P/960P高清视频传输。本项目共分11季,从海思SDK开发环境搭建,到sample程序讲解、SDKAPI函数解析,到H.264编解码、RTSP流媒体传输、MP4文件打包,到图像IQ调试、图像识别等视频领域高阶内容,可以说从零基础入手,对图像采集、编解码、网络传输、图像存储和识别做了全方位的详细讲解和代码分析,是目前市面上**一套系统讲解图像和视频技术的视频课程。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值