虹软人脸识别 - faceId及IR活体检测的介绍
前几天虹软推出了 Android ArcFace 2.2版本的SDK,相比于2.1版本,2.2版本中的变化如下:
- VIDEO模式新增faceId(类似于之前文章中提到的trackId)
- 新增IR活体检测功能
- 新增IR、RGB的活体阈值设置
一、faceId介绍
1. 定义
在连续的视频帧中,当一个人脸进入视频画面直到离开,其faceId不变。
2. 应用场景举例
在门禁应用场景下,若一个人长时间停留在画面中,借助faceId的功能,在此人的人脸特征提取成功后,可不再对此人的后续人脸信息进行处理。
3. 注意事项
faceId在VIDEO模式下有意义;
faceId在IMAGE模式下无效。
二、 IR活体检测
1. 接口介绍
支持的颜色格式如下:
Windows: GRAY、DEPTH_U16、NV21、NV12、I420
Android: GRAY、DEPTH_U16、NV21
注:若图像数据的颜色格式不在上述列表中,必须对图像数据进行格式转换。
2. IR活体检测实现方案
- 单目摄像头检测方案(IR)
单目摄像头检测流程
注意:在Windows平台下,若通过OpenCV获取IR摄像头的图像数据,由于其颜色格式为BGR_24
,不能用于IR活体检测,需要转成GRAY
(或IR活体检测接口支持的其他颜色格式),但BGR_24
数据可直接用于人脸检测。
- 双目摄像头检测方案(IR + RGB)
双目摄像头检测流程
人脸检测结果信息调整 :若RGB摄像头和IR摄像头的成像不一致(存在偏移、旋转、镜像等问题),需要将传递给IR活体检测的人脸信息(人脸框、人脸角度)进行调整。
3. 双目IR活体检测遇到的坑
在双目的画面有明显的不一致的情况时,若我们直接把RGB摄像头的人脸检测结果用于IR活体检测,很有可能会报81925(人脸置信度低)错误。原来,摄像头回传的数据和我们直接看到的画面很可能是不一样的,我们看到的画面可能是经过处理的(缩放、旋转、镜像等)。
- 检测方法
最直观的检查方法就是将摄像头数据显示到屏幕上。只要我们把2个摄像头回传的数据显示到屏幕上,就能了解两个摄像头数据的成像关系。例如Android平台可使用以下方式查看NV21数据:
示例流程
nv21 -> YuvImage -> jpg bytes -> bitmap -> ImageView
示例代码
@Override
public void onPreview(final byte[] nv21, Camera camera) {
......
//30帧一次,把帧数据显示到界面上(要是每帧都做就太卡了),若还是影响UI请放到子线程处理
if (index++ % 30 == 0) {
YuvImage yuvImage = new YuvImage(nv21, ImageFormat.NV21, previewSize.width, previewSize.height, null);
ByteArrayOutputStream baos = new ByteArrayOutputStream();
yuvImage.compressToJpeg(new Rect(0, 0, previewSize.width, previewSize.height), 100, baos);
byte[] bytes = baos.toByteArray();
ivFrame.setImageBitmap(BitmapFactory.decodeByteArray(bytes, 0, bytes.length));
}
......
}
- 解决方案
1. RGB和IR摄像头图像数据的其中一个被左右镜像
对于这种情况,我们在将RGB数据的人脸检测结果用于IR活体检测时,需要将其人脸框(rect)进行左右镜像调整。(Android demo中已提供左右镜像的代码):
/**
* 人脸框水平镜像
*
* @param rect 人脸框
* @return 水平镜像后的人脸框
*/
private Rect mirrorRectHorizontal(Rect rect) {
Rect newRect = new Rect(rect);
newRect.right = previewSize.width - rect.left;
newRect.left = previewSize.width - rect.right;
return newRect;
}
2. RGB和IR摄像头图像数据均被镜像或均未被镜像
对于这种情况,RGB数据的人脸检测结果用于IR活体检测时,不需要进行镜像调整。
3. RGB和IR摄像头图像数据有旋转关系
若有旋转关系,我们不仅要旋转人脸信息(FaceInfo)中的人脸框(rect),还需要修改人脸角度(orient)。否则IR活体检测将无法解析人脸,报81925错误。
(Android demo中已提供将orient单次旋转90度的代码):
/**
* 获取逆时针旋转90度后的人脸角度
*
* @param orient 人脸角度信息,即{@link FaceInfo#orient}属性,由{@link FaceEngine#detectFaces(byte[], int, int, int, List)}接口获取
* @return 旋转后的人脸角度
*/
private int rotateOrient(int orient) {
switch (orient) {
case FaceEngine.ASF_OC_0:
return FaceEngine.ASF_OC_90;
case FaceEngine.ASF_OC_90:
return FaceEngine.ASF_OC_180;
case FaceEngine.ASF_OC_180:
return FaceEngine.ASF_OC_270;
case FaceEngine.ASF_OC_270:
return FaceEngine.ASF_OC_0;
default:
throw new IllegalArgumentException("unsupported orient '" + orient + "'");
}
}
若需要下载虹软sdk,可以到官网:
https://ai.arcsoft.com.cn/product/arcface.html?utm_source=cnblogs&utm_medium=referral