概述
- Android9引入了对多相机设备的API支持,该逻辑相机设备由同一方向的两个或多个物理相机设备组成。逻辑摄像机设备作为单个CameraDevice / CaptureSession公开给应用程序,允许与HAL集成的多摄像机功能进行交互。应用程序可以选择访问和控制基础物理相机流,元数据和控件。
-
逻辑相机和物理相机是一对多或者一对一的关系,一对多为了做多摄同步,多个相机映射成一个物理相机对应对一个CameraDevice/CaptureSession
-
在此图中,不同的摄像机ID用颜色编码。该应用程序可以同时从每个物理相机流式传输原始缓冲区。也可以设置单独的控件并从不同的物理摄像机接收单独的元数据。
多摄像头举例
-
多摄像机设备必须通过 逻辑多摄像机功能发布。
-
摄像机客户端可以通过调用来查询组成特定逻辑摄像机的物理设备的摄像机IDgetPhysicalCameraIds()。然后,作为结果一部分返回的ID将通过分别用于控制物理设备setPhysicalCameraId()。可以通过调用从完整结果中查询此类单个请求的结果getPhysicalCameraResults()。
-
各个物理摄像机请求可能仅支持有限的参数子集。要接收支持的参数列表,开发人员可以调用getAvailablePhysicalCameraRequestKeys()。
-
物理摄像机流仅支持非处理请求,并且仅支持单色和拜耳传感器。
多摄像头支持列表
要在HAL端添加逻辑多摄像机设备:
-
ANDROID_REQUEST_AVAILABLE_CAPABILITIES_LOGICAL_MULTI_CAMERA
为由两个或更多物理相机支持的逻辑相机设备添加 功能,这些相机也向应用程序公开。 -
ANDROID_LOGICAL_MULTI_CAMERA_PHYSICAL_IDS 用物理摄像机ID列表填充静态 元数据字段。
填充物理相机流的像素之间进行相关所需要的深度相关静态元数据:
-
ANDROID_LENS_POSE_ROTATION, ANDROID_LENS_POSE_TRANSLATION,
ANDROID_LENS_INTRINSIC_CALIBRATION, ANDROID_LENS_DISTORTION,ANDROID_LENS_POSE_REFERENCE。 -
将静态ANDROID_LOGICAL_MULTI_CAMERA_SENSOR_SYNC_TYPE 元数据字段设置 为:
ANDROID_LOGICAL_MULTI_CAMERA_SENSOR_SYNC_TYPE_APPROXIMATE:对于处于主-主模式的传感器,没有硬件快门/曝光同步。 -
ANDROID_LOGICAL_MULTI_CAMERA_SENSOR_SYNC_TYPE_CALIBRATED:对于处于主从模式的传感器,硬件快门/曝光同步。
-
ANDROID_REQUEST_AVAILABLE_PHYSICAL_CAMERA_REQUEST_KEYS
用单个物理摄像机支持的参数列表填充 。如果逻辑设备不支持单个请求,则该列表可以为空。 -
如果支持个人请求,则处理并应用physicalCameraSettings 可以作为捕获请求的一部分到达的个人 ,并相应地附加该个人
physicalCameraMetadata 。 -
对于3.5 或更高版本的Camera HAL设备(在Android
10中引入),请ANDROID_LOGICAL_MULTI_CAMERA_ACTIVE_PHYSICAL_ID
使用支持逻辑相机的当前活动物理相机的ID 填充 结果键。 -
对于运行Android 9的设备,摄像头设备必须支持用两个物理摄像头的相同大小(不适用于RAW流)和相同格式的物理流替换一个逻辑YUV /
RAW流。这不适用于运行Android 10的设备。 -
对于运行Android 10且相机HAL设备版本为3.5 或更高版本
的设备,相机设备必须支持isStreamCombinationSupported 应用程序以查询是否支持包含物理流的特定流组合。
Camera流配置
-
对于逻辑摄像机,特定硬件级别的摄像机设备的强制流组合与中的要求相同
-
CameraDevice.createCaptureSession。流配置图中的所有流必须是逻辑流。
-
对于支持具有不同大小的物理子摄像机的RAW功能的逻辑摄像机设备,如果应用程序配置逻辑RAW流,则该逻辑摄像机设备不得切换到具有不同传感器大小的物理子摄像机。这样可以确保现有的RAW捕获应用程序不会损坏。
-
为了通过在RAW捕获期间在物理子摄像机之间切换来利用HAL实现的光学变焦,应用程序必须配置物理子摄像机流而不是逻辑RAW流。
-
逻辑相机设备应基于其硬件级别和功能以与物理相机设备相同的方式操作。建议其功能集是单个物理相机的功能集的超集。
在运行Android 9的设备上,对于每种保证的流组合,逻辑摄像机必须支持:
-
假定物理摄像机支持大小和格式,则用两个大小和格式相同的物理流替换一个逻辑YUV_420_888或原始流,每个物理流都来自单独的物理摄像机。
-
如果逻辑摄像机不宣告RAW功能,但基础物理摄像机则宣告两个原始流,则从每个物理摄像机添加一个原始流。当物理相机具有不同的传感器尺寸时,通常会发生这种情况。
-
使用物理流代替相同大小和格式的逻辑流。当物理流和逻辑流的最小帧持续时间相同时,这一定不能减慢捕获的帧速率。
性能和功耗
性能
- 由于资源限制,配置和流式传输物理流可能会减慢逻辑摄像机的捕获速率。
- 如果将基础相机设置为不同的帧速率,则应用物理相机设置可能会降低捕获速率。
功率:
- 在默认情况下,HAL的功率优化将继续起作用。
- 配置或请求物理流可能会覆盖HAL的内部电源优化,并导致更多的电源使用。
多摄像头客制化
-
逻辑摄像机设备的融合输出完全取决于HAL实现
-
可以单独支持各个物理请求和结果。
-
从Android 10开始,HAL可以选择不发布中的某些或全部PHYSICAL_ID,从而减少应用程序可以直接打开的摄像头数量
getCameraIdList。getPhysicalCameraCharacteristics
然后,调用必须返回物理摄像机的特征。LogicalCameraDeviceTest 模块中找到针对此类设备的测试用例 。这三个ITS测试针对多相机系统,以促进图像的正确融合:
-
scene1/test_multi_camera_match.py
-
scene4/test_multi_camera_alignment.py
-
sensor_fusion/test_multi_camera_frame_sync.py
-
Scene1和Scene4测试是使用 ITS-in-a-box测试装置运行的。该test_multi_camera_match测试断言,两个摄像机同时启用时,图像中心的亮度匹配。该 test_multi_camera_alignment测试断言相机间距,方向和变形参数已正确加载。如果多摄像机系统包括Wide FoV摄像机(> 90o),则需要ITS盒的rev2版本。
-
Sensor_fusion 是第二个测试设备,可重复执行规定的电话运动,并声称陀螺仪和图像传感器的时间戳匹配,并且多相机帧是同步的。