RK3588-Camera:MIPI-CSI调试之通路解析

已于 2023-08-15 11:49:12 修改
阅读量3.5k 收藏 49
点赞数 5
分类专栏： ArmSoM-W3 RK3588 开发板 文章标签： 驱动开发 硬件工程 arm开发 物联网 嵌入式硬件
于 2023-05-17 15:33:03 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nb124667390/article/details/130727276
版权

一、简介

  • [RK3588从入门到精通] 专栏总目录

  • 本文介绍RK3588平台的Camera:MIPI-CSI调试之通路解析

  • MIPI联盟，即移动产业处理器接口（Mobile Industry Processor Interface 简称MIPI）联盟。MIPI（移动产业处理器接口）是 MIPI联盟发起的为移动应用处理器制定的开放标准和一个规范。

    目的是把手机内部的接口如摄像头、显示屏接口、射频/基带接口等标准化，从而减少手机设计的复杂程度和增加设计灵活性。

  • CSI & DSI

    • CSI ( Camera Serial Interface )：摄像头接口

    • DSI ( Display Serial Interface )：显示接口

二、 名词解释：

  • ISP ( Image Signal Processor )： 即图像信号处理模块， 主要作用是对前端图像传感器输出的信号做后期处理，依赖于 ISP 才能在不同的光学条件下都能较好的还原现场细节。

  • VICAP（ Video capture ）：视频捕获单元

三、RK3588 的camera通路:

多sensor支持：

  • 单路硬件isp最多支持4路复用，isp复用情况支持分辨率如下：
  • 2路复用：最大分辨率3840x2160，dts对应配置2路rkisp_vir设备。
  • 3路或4路复用：最大分辨率2560x1536，dts对应配置3或4路rkisp_vir设备。
  • 硬件支持最多采集7路sensor：6mipi + 1dvp，多sensor软件通路如下：

下图是RK3588 camera连接链路示意图，可以支持7路camera。

在这里插入图片描述

四、 链路解析：

在这里插入图片描述

  • 图中：mipi camera2—> csi2_dphy1 —> mipi2_csi2 —> rkcif_mipi_lvds2—>rkcif_mipi_lvds2_sditf —>rkisp0_vir2

  • 对应节点：imx415 —> csi2_dphy0 —> mipi2_csi2 —> rkcif_mipi_lvds2—>rkcif_mipi_lvds2_sditf —>rkisp0_vir2

  • 链接关系：sensor—> csi2 dphy---->mipi csi host—>vicap

  • 实线链路解析： Camera sensor —> dphy —> 通过mipi_csi2模块解析mipi协议—> vicap ( rkcif节点代表vicap )

  • 虚线链路解析：vicap —> rkcif_mipi_lvds2_sditf —> isp

    每个vicap节点与isp的链接关系，通过对应虚拟出的XXX_sditf来指明链接关系。

五、RK3588硬件通路框图

在这里插入图片描述

  • rk3588支持2个isp硬件，每个isp设备可虚拟出多个虚拟节点，软件上通过回读的方式，依次从ddr读取每一路的图像数据进isp处理。对于多摄方案，建议将数据流平均分配到两个isp上。

  • 回读：指数据经过vicap采集到ddr，应用获取到数据后，将buffer地址推送给isp，isp再从ddr获取图像数据。

六、详细解析：

  1. imx415 : Camera sensor

  2. csi2_dphy0 ： rk3588支持2个dphy硬件，这里我们称之为dphy0_hw/dphy1_hw ，，两个dphy硬件都可以工作在full mode 和split mode两种模式下。

当使用dphy0_hw:

  • full mode：节点名称使用csi2_dphy0，最多支持4 lane。
    当dphy0_hw使用full mode时，链路需要按照csi2_dphy1这条链路来配置，但是节点名称csi2_dphy1需要修改为csi2_dphy0，软件上是通过phy的序号来区分phy使用的模式。

  • split mode：拆分成2个phy使用，分别为csi2_dphy1（使用0/1 lane）、csi2_dphy2(使用2/3 lane)，每个phy最多支持2 lane。

当使用dphy1_hw:

  • full mode：节点名称使用csi2_dphy3，最多支持4 lane。
    当dphy1_hw使用full mode时，链路需要按照csi2_dphy4这条链路来配置，但是节点名称csi2_dphy4需要修改为csi2_dphy3，软件上是通过phy的序号来区分phy使用的模式。

  • split mode：拆分成2个phy使用，分别为csi2_dphy4（使用0/1 lane）、csi2_dphy5(使用2/3 lane)，每个phy最多支持2 lane。

  1. dcphy：
    rk3588支持两个dcphy，节点名称分别为csi2_dcphy0/csi2_dcphy1。每个dcphy硬件支持RX/TX同时使用，对于camera输入使用的是RX。支持DPHY/CPHY协议复用；需要注意的是同一个dcphy的TX/RX只能同时使用DPHY或同时使用CPHY。其他dcphy参数请查阅rk3588数据手册。

  2. 使用上述mipi phy节点，需要把对应的物理节点配置上。
    （csi2_dcphy0_hw/csi2_dcphy1_hw/csi2_dphy0_hw/csi2_dphy1_hw）

  3. 每个mipi phy都需要一个csi2模块来解析mipi协议，节点名称分别为mipi0_csi2~mipi5_csi2。

  4. rk3588所有camera数据都需要通过vicap，再链接到isp。rk3588仅支持一个vicap硬件，这个vicap支持同时输入6路mipi phy，及一路dvp数据，所以我们将vicap分化成rkcif_mipi_lvds~rkcif_mipi_lvds5、rkcif_dvp等7个节点，各个节点的绑定关系需要严格按照框图的节点序号配置。

  5. 每个vicap节点与isp的链接关系，通过对应虚拟出的XXX_sditf来指明链接关系。

  6. rk3588支持2个isp硬件，每个isp设备可虚拟出多个虚拟节点，软件上通过回读的方式，依次从ddr读取每一路的图像数据进isp处理。对于多摄方案，建议将数据流平均分配到两个isp上。

  7. 直通与回读模式：
    •直通：指数据经过vicap采集，直接发送给isp处理，不存储到ddr。需要注意的是hdr直通时，只有短帧是真正的直通，长帧需要存在ddr，isp再从ddr读取。

    •回读：指数据经过vicap采集到ddr，应用获取到数据后，将buffer地址推送给isp，isp再从ddr获取图像数据。

    •在dts配置时，一个isp硬件，如果只配置一个虚拟节点，默认使用直通模式，如果配置了多个虚拟节点默认使用回读模式。

七、单路Camera的dts配置说明：( 以imx415摄像头为例 )

  • 案例场景：这里使用的是csi2_dphy0的单路camera配置：
  • 链路配置： imx415 —> csi2_dphy0 —> mipi2_csi2 —> rkcif_mipi_lvds2—>rkcif_mipi_lvds2_sditf —>rkisp0_vir2
&i2c3 {
	status = "okay";

	imx415: imx415@1a {
		status = "okay";
		compatible = "sony,imx415";
		reg = <0x1a>;
		clocks = <&cru CLK_MIPI_CAMARAOUT_M3>;
		clock-names = "xvclk";
		pinctrl-names = "default";
		pinctrl-0 = <&mipim0_camera3_clk>;
		power-domains = <&power RK3588_PD_VI>;
		pwdn-gpios = <&gpio1 RK_PB0 GPIO_ACTIVE_HIGH>;
		reset-gpios = <&gpio4 RK_PA0 GPIO_ACTIVE_LOW>;
		rockchip,camera-module-index = <0>;
		rockchip,camera-module-facing = "back";
		rockchip,camera-module-name = "CMK-OT2022-PX1";
		rockchip,camera-module-lens-name = "IR0147-50IRC-8M-F20";
		port {
			imx415_out0: endpoint {
				remote-endpoint = <&mipidphy0_in_ucam0>;
				data-lanes = <1 2 3 4>;
			};
		};
	};

	camera_imx219: camera-imx219@10 {
		status = "disabled";
		compatible = "sony,imx219";
		reg = <0x10>;

		clocks = <&clk_cam_24m>;
		clock-names = "xvclk";

		rockchip,camera-module-index = <0>;
		rockchip,camera-module-facing = "back";
		rockchip,camera-module-name = "rpi-camera-v2";
		rockchip,camera-module-lens-name = "default";

		port {
			imx219_out0: endpoint {
				remote-endpoint = <&mipidphy0_in_ucam1>;
				data-lanes = <1 2>;
			};
		};
	};
};

&csi2_dphy0_hw {
	status = "okay";
};

&csi2_dphy0 {
	status = "okay";

	ports {
		#address-cells = <1>;
		#size-cells = <0>;

		port@0 {
			reg = <0>;
			#address-cells = <1>;
			#size-cells = <0>;

			mipidphy0_in_ucam0: endpoint@1 {
				reg = <1>;
				remote-endpoint = <&imx415_out0>;
				data-lanes = <1 2 3 4>;
			};

			mipidphy0_in_ucam1: endpoint@2 {
				reg = <2>;
				remote-endpoint = <&imx219_out0>;
				data-lanes = <1 2>;
			};
		};

		port@1 {
			reg = <1>;
			#address-cells = <1>;
			#size-cells = <0>;

			csidphy0_out: endpoint@0 {
				reg = <0>;
				remote-endpoint = <&mipi2_csi2_input>;
			};
		};
	};
};

&mipi2_csi2 {
	status = "okay";

	ports {
		#address-cells = <1>;
		#size-cells = <0>;

		port@0 {
			reg = <0>;
			#address-cells = <1>;
			#size-cells = <0>;

			mipi2_csi2_input: endpoint@1 {
				reg = <1>;
				remote-endpoint = <&csidphy0_out>;
			};
		};

		port@1 {
			reg = <1>;
			#address-cells = <1>;
			#size-cells = <0>;

			mipi2_csi2_output: endpoint@0 {
				reg = <0>;
				remote-endpoint = <&cif_mipi2_in0>;
			};
		};
	};
};

&rkcif {
	status = "okay";
};

&rkcif_mipi_lvds2 {
	status = "okay";

	port {
		cif_mipi2_in0: endpoint {
			remote-endpoint = <&mipi2_csi2_output>;
		};
	};
};

&rkcif_mipi_lvds2_sditf {
	status = "okay";

	port {
		mipi_lvds2_sditf: endpoint {
			remote-endpoint = <&isp0_vir0>;
		};
	};
};

&rkcif_mmu {
	status = "okay";
};

&rkisp0 {
	status = "okay";
};

&isp0_mmu {
	status = "okay";
};

&rkisp0_vir0 {
	status = "okay";

	port {
		#address-cells = <1>;
		#size-cells = <0>;

		isp0_vir0: endpoint@0 {
			reg = <0>;
			remote-endpoint = <&mipi_lvds2_sditf>;
		};
	};
};

&pinctrl {
	camera {
		cam_pwdn_gpio: cam-pwdn-gpio {
			rockchip,pins = <1 RK_PB0 RK_FUNC_GPIO &pcfg_pull_up>;
		};
	};
};

八、 调试技巧

8.1 i2c设备的通用调试命令：查看设备是否挂载到i2c总线下：

i2cdetect -y 3

8.2 摄像命令

  • Linux系统摄像命令：
gst-launch-1.0 v4l2src device=/dev/video11 ! video/x-raw,format=NV12,width=3840,height=2160, framerate=30/1 ! xvimagesink

  • Android系统：

    Android系统自带相机APP。点击APP，看摄像画面是否正常显示。

8.3 imx415 相关的log信息

dmesg | grep imx415

8.4 查看拓扑结构

 media-ctl -d /dev/media0 -p

ArmSoM 产品介绍： http://wiki.armsom.org/index.php/ArmSoM-w3

ArmSoM 技术论坛： http://forum.armsom.org/

ArmSoM开源硬件
关注
专栏目录
RK3588平台开发系列讲解（显示篇）MIPI详解
内核笔记
09-04 760
沉淀、分享、成长，让自己和他人都能有所收获！😄。
rk3588 mipi camera 调试过程中的问题
neardi_dev的博客
12-07 4803
rk3588 mipi camera 调试过程中的问题-SOT/SOT_SYNC错误 首先向Sensor厂家确认该Sensor是否有实际成功使用过MIPI接口传输数据 再次确认link_freq是否正确。因为SOT时序中的Ths-settle需要在MIPI接收端配置正确，所以
rk3588s-摄像头适配gc8034
Yxx8066的博客
04-23 933
若还打开失败，需要看下XML中文件配置是否与DTS配置信息一致，或者XML参数配置是否有异常；MIPI摄像头是有上电时序要求，具体时序要查看sensor芯片对应的datasheet进行修改，如果时序不满足，sensor无法正常，此时用i2ctool去查看设备可能无法扫面到设备，即是i2c设备找不到。RK3588或者RK3588S有路MIPI-PHY，驱动开发工程师需要根据对应的硬件原图进行配置，以下会讲解分别使用MIPI-DPHY和MIPI-D/CPHY如何在DTS配置mipi摄像头的回环链路。
RK3588主板PCB设计学习（二）
最新发布
zjb6668的博客
09-29 312
3组数据线，一组时钟线，其余的是控制线：HDMI需要加上静电TVS防护的：差分50，单端100. 组间15mil间距， 组间误差10mil ，差分对内5mil :这一点很关键，HDMI差分线绕等长的时候，等长线的间距小于2倍线宽，等长线的距离大于3倍线宽，不一定需要弧形走线绕等长，矩形也可以，关键是满足几个W的原则：弧形的是不合格的，矩形的是合格的：HDMI2.1相比于HDMI2.0速度上面提升很多：百兆网口只有两对差分线，千兆网口有四对差分线：注意：仅作为笔记使用。
【RK3588 开发笔记——mipi摄像头调试】
W_B_C的博客
11-14 8268
【RK3588 开发笔记——mipi摄像头调试】
Rk628D 在 RK3588s平台上的驱动移植
ma_cainiao_ming的博客
09-23 510
通过RK628D转接芯片，实现hdmi 到 mipi 的4k视频输入
RK3588 camera调试：HDR调试（IMX577）
qq_34341546的博客
06-06 5653
RK3588 camera imx577 HDR模式调试
RK3588 camera的链路
qq_39971579的博客
05-07 401
RK3588 有两个 MIPI DPHY CSI RX，都支持 MIPI V1.2 版本，每个通道最大数据传输速率为 2.5Gbps。
RK3588s Camera ISP调优详解（一）ISP调试工具及环境配置（附下载途径）
zongheng_raobo的博客
07-13 2112
本文主要介绍了rkisp tuner工具的连接与使用，并附上了工具及依赖库的下载地址
rk3568mipi摄像头调试(gc2385 + gc2053)
weixin_71997855的博客
03-14 3739
rk3568mipi摄像头调试(gc2385 + gc2053)
MIPI Camera Serial Interface 2 (CSI-2)
02-27
MIPI Camera Serial Interface 2 (CSI-2)
RK3588开发笔记-MIPI-CSI接口视频解码芯片XS9922B调试
flypig has a dream！
10-09 3010
Rockchip RK3588 是一款高性能的处理器，支持多种摄像头接口，包括 MIPI（Mobile Industry Processor Interface）接口。MIPI是一种用于移动设备和嵌入式系统中的摄像头、显示器和其他传感器设备的串行接口标准。MIPI是MIPI联盟发起的为移动应用处理器制定的开放标准。CSI-2（Camera Serial Interface 2）是MIPI 联盟定义的另一种高速接口，主要用于摄像模组和处理器之间的连接。
rk3588 camera bringup记录
MATLABCSD的博客
09-27 1490
rockchip 3588 camera bringup
rk3588调试imx415记录
m0_60805802的博客
02-21 1292
分享适配imx415的软件配置以及一些关键的调试命令
RK3568调试HDMI-IN之双RK628D
授之以鱼不如授之以渔
03-10 3824
RK3568调试HDMI-IN之双RK628D
瑞芯微RK3588配置以及点亮sensor——CAM-8MS1M
HI_DMXB的博客
07-17 1452
CAM-8MS1M接到任务，要点亮一个sensor——CAM-8MS1M。但是我相机接到开发板上检测不出来，试了很多方法也失败。问了技术支持，才知道原来我之前刷的3588固件版本太低，检测不到相机，需要重新烧写固件，很痛苦，这样我之前的东西就都没有了（包括之前跑rknn的yolov5环境等等）。但是不破不立，开始从零记录。
RK3588 HDMIIN调试（HDMI转MIPI-CSI）
qq_34341546的博客
06-08 9957
RK3588 HDMIIN HDMI转MIPI-CSI LT6911UXC/LT6911UXE 调试指导
瑞芯微RK3588 camera驱动总结三调试
huntenganwei的博客
09-01 2005
先介绍一些很有用的指令用于打印设备的媒体管道拓扑结构。媒体管道拓扑结构描述了多媒体设备内部各组件之间的连接关系，包括视频输入、视频输出、编码器、解码器、ISP（图像信号处理器）等组件之间的连接。这二个子指令可以查看具体的rkisp_mainpath和rkisp_selfpath查找并显示目录下所有video*子目录中的name文件内容的命令。这个命令可以帮助你快速了解系统中有哪些视频设备，并且每个设备的名称是什么。3.这几个v4l2的指令也很有用列出系统中所有可用的视频设备及其相关信息。
rk3588 mipi
07-20
RK3588是一款由Rockchip（瑞芯微电子）设计的高性能系统级芯片（SoC），它主要用于Android平板电脑、智能电视等多媒体设备。MIPi，全称Mobile Industry Processor Interface，是一个标准的高速接口规范，用于连接显示屏和其他外设，如摄像头模组。在rk3588中，MIPi支持eDP（Embedded DisplayPort）和LVDS（Low-Voltage Differential Signaling）等多种显示接口技术，使得它可以提供高清视频输出和多种显示配置选项。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ArmSoM开源硬件

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值