Android Camera Subsystem 架构(Binder机制)及显示分析(3)

Camera Display

对于AP层用户,通过Camera界面, 以最直观的方式能够从Camera显示窗口中看到的Camera Display主要包括三部分。各部分的具体细节如下所示。

(1)Camera Preview Display


对于Camera Preview Display, 从Camera应用程序的角度来看,AP层需要实现Android.hardware.Camera(Framework层)类提供给上层应用的preview相关接口,完成相应的逻辑处理。但Preview作为大数据量交换的处理过程,系统不可能通过回调方式,最终将底层Camera硬件设备采集的数据交给AP层来处理。所以,上层应用只需要做一些简单的状态和UI显示处理,AP不需要接收处理真正的Preview数据,而是将数据接收和处理的过程交由ISurface接口来完成,确切的说是由ISurface的实现类SurfaceFlinger来完成。

AP层通过调用Android.hardware.Camera类提供的startPreview函数,最终通过libcamera_client.so的Camera类,利用Binder IPC,通知CameraService, CameraService通过调用其内部类Clien,内部类再通过调用HAL层提供的Camera功能完成相应的操作。

CameraService层针对Camera Client端得请求,都将交与其内部类Client来完成。CameraService层的startPreview的具体实现由CameraService::Client类的startPreviewMode函数完成相应的操作。

status_t CameraService::Client::startPreviewMode() {

    // if preview has been enabled, nothing needs to be done

    if (mHardware->previewEnabled()) {

        return NO_ERROR;

    }

    // start preview mode

    status_t ret = NO_ERROR;

    if (mUseOverlay) {

              ….

    } else {

        mHardware->enableMsgType(CAMERA_MSG_PREVIEW_FRAME);

        ret = mHardware->startPreview();

        if (ret != NO_ERROR) return ret;

        // If preview display has been set, register preview buffers now.

        if (mSurface != 0) {

           // Unregister here because the surface registered with raw heap.

           mSurface->unregisterBuffers();

           ret = registerPreviewBuffers();

        }

    }

    return ret;

}

status_t CameraService::Client::registerPreviewBuffers()

{

    int width, height;

    CameraParameters params(mHardware->getParameters());

    params.getPreviewSize(&width, &height);

    // don't use a hardcoded format here

    ISurface::BufferHeap buffers(width, height, width, height,

PIXEL_FORMAT_RGB_565,

                            mOrientation, 0,

mHardware->getPreviewHeap());

    status_t ret = mSurface->registerBuffers(buffers);

    if (ret != NO_ERROR) {

        LOGE("registerBuffers failed with status %d", ret);

    }

    return ret;

}

     

 从上面的代码我们可以看到,ISurface为Camera Preview Display专门注册了显示缓冲区,该缓冲区映射到mHardware->getPreviewHeap()指向的内存空间,缓冲区接收的数据格式为PIXEL_FORMAT_RGB_565

CameraService已经为Camera Preview Display准备好了显示缓冲区,哪谁为注册的这块Buffer填充Preview数据呢?为了完成Camera Preview,Camera HAL层的CameraHardware类提供了previewThread线程,来完成底层数据到ISurface缓冲区的投递。通过线程Loop最终将Camera硬件设备采集的数据不断送到显示缓冲区,最后显示到AP界面上。

int CameraHardware::previewThread()

{

    int width, height;

    mParameters.getPreviewSize(&width, &height);

    if (!previewStopped && mPreviewBuffer != 0 && mRawBuffer !=0 && mDataFn) {

          int delay = (int)(1000000.0f / float(previewFrameRate));

              ①mCamera.GrabRawFrame(mHeap->getBase());

              if (mMsgEnabled & CAMERA_MSG_PREVIEW_FRAME){

                     ②mCamera.GrabPreviewFrame((mHeap->getBase(),

mPreviewHeap->getBase());

                ③mDataFn(CAMERA_MSG_PREVIEW_FRAME,

mPreviewBuffer, mUser);

                     delay-=100;

              }

              ………

    }

    return NO_ERROR;

}

     

从代码中我们可以看到,previewThread线程针对Preview Display,主要完成三个步骤的操作,

首先调用V4L2Camera的GrabRawFrame函数,通过V4L2驱动取得Camera采集的一帧数据,将该帧数据放到指定缓冲区中;

其次将取得的原始数据通过数据格式转化函数convert,将采集到得原始数据转化成与Preview Buffer注册类型相一致的数据类型,也就是RGB565。在我们的系统中,Camera hardware采集的原始数据时YUYV(YUV4:2:2)格式的。所以我们必须将YUYV格式的原始数据转化为RGB565格式的数据,然后放到PreviewBuffer中。

最后,通过回调函数,向CameraService发送Preview消息CAMERA_MSG_PREVIEW_FRAME,CameraService收到该消息之后调用Preview处理函数handlePreviewData,通过调用postBuffer函数,最终由SurfaceFlinger完成对PreviewBuffer的Draw工作。

void CameraService::Client::handlePreviewData(const sp<IMemory>& mem) {

    ssize_t offset,size;

    sp<IMemoryHeap> heap = mem->getMemory(&offset, &size);

    if (!mUseOverlay)

    {

        Mutex::Autolock surfaceLock(mSurfaceLock);

        if (mSurface != NULL) {

            mSurface->postBuffer(offset);

        }

    }

    int flags = mPreviewCallbackFlag;

    if (!(flags & FRAME_CALLBACK_FLAG_ENABLE_MASK)) {

        LOGV("frame callback is diabled");

        return;

}

……..

}

     

     

 如上所示,HAL层将数据投递到framebuffer中,然后通知CameraService调用postBuffer对数据进行显示。Preview模式下,底层并不需要向上层AP通知自己的状态,所以postBuffer之后直接返回不再向上通知CAMERA_MSG_PREVIEW_FRAME消息。


在Preview模式下,通过ClickShutterButton,Camera由Previw模式进入TakePicture模式。在进入TakePicture模式之前,需要关闭Camera的预览功能,即停止Camera Preview Display。在TakePicture模式下,AP层首先会发送一个Focus请求,Focus请求会直接到达CameraHardware层,CameraHardware调用底层硬件提供的接口完成Focus功能。并通过回调函数notify,发送CAMERA_MSG_FOCUS消息,完成Focus,在完成Focus之前,系统并不会停止Preview Display,只有上层接到底层返回的FOCUS成功消息之后,才真正的进入TakePicture模式。在进入TakePicture之后,Camera主要完成三个功能。

int CameraHardware::pictureThread() {

   int width, height;

   if (mMsgEnabled & CAMERA_MSG_SHUTTER) {

        ①mNotifyFn(CAMERA_MSG_SHUTTER, 0, 0, mUser);

    }

    mParameters.getPictureSize(&width, &height);

       ②mCamera.GrabRawFrame(mHeap->getBase());

    if (mMsgEnabled & CAMERA_MSG_RAW_IMAGE) {

              ②mCamera.convert((unsigned char *)mHeap->getBase(),

(uint8_t *)mRawHeap->getBase(), width, height);

        ②mDataFn(CAMERA_MSG_RAW_IMAGE, mRawBuffer,mUser);

    }

    if (mMsgEnabled & CAMERA_MSG_COMPRESSED_IMAGE) {

        ③mDataFn(CAMERA_MSG_COMPRESSED_IMAGE,

                                          camera.GrabJpegFrame(mHeap->getBase()),mUser);

    }

    return NO_ERROR;

}

 

Step1:上层通过调用takepicture函数,最终通过Camera HAL层的CameraHardware启动captureThread线程,启动Capture线程之后,CameraHardware在第一时间会通过回调函数notify,向上发送CAMERA_MSG_SHUTTER消息给CameraService,同时CameraService将该消息返回给上层AP。

void CameraService::Client::handleShutter(image_rect_type *size) {

    // Play shutter sound.

       ……

    // Screen goes black after the buffer is unregistered.

    if (mSurface != 0 && !mUseOverlay) {

        mSurface->unregisterBuffers();

    }

    sp<ICameraClient> c = mCameraClient;

    if (c != NULL) {

        c->notifyCallback(CAMERA_MSG_SHUTTER, 0, 0);

    }

    mHardware->disableMsgType(CAMERA_MSG_SHUTTER);

    if (mSurface != 0 && !mUseOverlay) {

        int width, height;

        CameraParameters params(mHardware->getParameters());

        width = size->width;

        height = size->height;

        ISurface::BufferHeap buffers(width, height, width, height,

                                                       PIXEL_FORMAT_RGB_565,

                                                        mOrientation, 0, mHardware->getRawHeap());

        mSurface->registerBuffers(buffers);

        IPCThreadState::self()->flushCommands();

    }

}

 

如上图所示,CameraService收到CAMERA_MSG_SHUTTER消息之后,首先通过回调函数,将该消息再转发给上层AP,然后根据Picture大小调用ISurface注册用于Capture Image Display的Capture Image Display Buffer。

Step2:CameraHardware开始真正的Capture Frame,首先调用底层GrabRawFrame函数获取Capture Image Frame,接下来要完成两件事:

一是将获取的原始Capture Frame数据转化为与显示缓冲区一直的数据格式,然后将转化后的数据投递到之前注册的Capture Image Display缓冲区中。

二是通过回调函数,向CameraService发送Capture Image Display消息CAMERA_MSG_RAW_IMAGE,CameraService收到该消息之后调用RawPicture处理函数handleRawPicture,通过调用postBuffer函数,最终由SurfaceFlinger完成对RawBuffer的Draw工作。

void CameraService::Client::handleRawPicture(const sp<IMemory>& mem)

{

    ssize_t offset;

    size_t size;

    sp<IMemoryHeap> heap = mem->getMemory(&offset, &size);

    // Put the YUV version of the snapshot in the preview display.

    if (mSurface != 0 && !mUseOverlay) {

        mSurface->postBuffer(offset);

    }

 

    sp<ICameraClient> c = mCameraClient;

    if (c != NULL) {

        c->dataCallback(CAMERA_MSG_RAW_IMAGE, mem);

    }

    mHardware->disableMsgType(CAMERA_MSG_RAW_IMAGE);

}

private final class RawPictureCallback implements PictureCallback {

     public void onPictureTaken(

              byte [] rawData, Android.hardware.Camera camera) {

          mRawPictureCallbackTime = System.currentTimeMillis();

     }

}

与Preview消息不同的是,CameraService会将该消息继续发给上层AP,上层针对该消息会做一些简单的处理,主要是记录消息到达的系统时间。

Step3:获取JPEG Image,并存储JPEG Image,生成JPEG Image的缩略图显示在Camera窗口的右上角。在GrabRawFrame函数的基础上,我们需要将获取的原始数据转化成JPEG格式的数据,所以我们将之前GrabRawFrame获得的原始数据传给GrabJpegFrame(void * buffer)函数,返回满足要求的JPEG格式的数据。随后通过回调函数,向CameraService发送CAMERA_MSG_COMPRESSED_IMAGE消息,CameraService收到该消息之后调用JPEG Image处理函数handleCompressedPicture。

void CameraService::Client::handleCompressedPicture(const sp<IMemory>& mem)

{

    sp<ICameraClient> c = mCameraClient;

    if (c != NULL) {

        c->dataCallback(CAMERA_MSG_COMPRESSED_IMAGE, mem);

    }

    mHardware->disableMsgType(CAMERA_MSG_COMPRESSED_IMAGE);

}

 

handleCompressedPicture和之前的处理函数不同,而是将消息和数据直接(其实是间接,还要通过Camera Client端,Camera JNI, Android.hardware.Camera)交给上层AP来处理。包括JPEG Image Storage和 Create Image Thumbnail。

在定义的延迟时间内,在Preview Layout中显示Capture image,之后通过调用restartPreview,恢复到Preview Mode状态下。

(3)VideoCamera Preview Display

当由Capture Preview状态切换到VideoPreview状态进入VideoCamera模式时,首先VideoCamera模式提供给用户的是Preview Display,这部分同Camera Preview Display。

int CameraHardware::previewThread()

{

    mLock.lock();

    int previewFrameRate = mParameters.getPreviewFrameRate();

    mLock.unlock();

    Mutex::Autolock lock(mPreviewLock);

    if (!previewStopped && mPreviewBuffer != 0

&& mRawBuffer !=0 && mDataFn) {

          int delay = (int)(1000000.0f / float(previewFrameRate));

              ①mCamera.GrabRawFrame(mHeap->getBase());

              if (mMsgEnabled & CAMERA_MSG_PREVIEW_FRAME){

                     ②mCamera.GrabPreviewFrame(mHeap->getBase(),

mPreviewHeap->getBase());

                ③mDataFn(CAMERA_MSG_PREVIEW_FRAME,

mPreviewBuffer, mUser);

                     delay-=100;

              }

              ①mRecordingLock.lock();

              if ((mMsgEnabled & CAMERA_MSG_VIDEO_FRAME)

&& mRecordBuffer != 0 && mTimestampFn) {

                  ②mCamera.GrabRecordFrame(mHeap->getBase(),

                                         mRecordHeap->getBase());

                     ③nsecs_t timeStamp = systemTime(SYSTEM_TIME_MONOTONIC);

                     ④mTimestampFn(timeStamp,

CAMERA_MSG_VIDEO_FRAME, mRecordBuffer, mUser);

                     delay-=100;

        }

              mRecordingLock.unlock();

        usleep(delay);

    }

    return NO_ERROR;

}

 

在VideoCamera模式下,当用户通过ClickShutterButton进入Camera Recording状态时,用户看到的是Camera Recording Preview Display,从数据的显示过程同Camera Preview Display,但在此状态下,需要考虑到向Opencore框架,也就是CameraInput模块投递由Camera硬件采集的Record数据。CameraHardware不仅需要向Preview缓冲区投递数据,同时还要向CameraInput传送数据。如上图所示。

在Camera Recording状态下,libcamera_client.so端的回调函数(也就是CameraListener类定义的回调函数)不再由JNICameraContext类来实现,而是由AndroidCameraInputListener实现,换句话说,在CameraInput中的mListener成员变量是由AndroidCameraInputListener来初始化的。

Location:frameworks/base/include/camera/Camera.h

class CameraListener: virtual public RefBase

{

public:

    virtual void notify(int32_t msgType, int32_t ext1, int32_t ext2) = 0;

    virtual void postData(int32_t msgType, const sp<IMemory>& dataPtr) = 0;

    virtual void postDataTimestamp(nsecs_t timestamp, int32_t msgType,

const sp<IMemory>& dataPtr) = 0;

};

 

 在整个Androi系统中,总共有三个类来分别实现这个抽象类,他们分别是JNICameraContext、AndroidCameraInputListener、CameraSourceListener类。

①Location:frameworks/base/core/jni/Android_hardware_Camera.cpp

class JNICameraContext: public CameraListener

 

②Location:external/opencore/Android/author/Android_camera_input.h

class AndroidCameraInputListener: public CameraListener

 

③Location:frameworks/base/core/jni/Android_hardware_Camera.cpp

class CameraSourceListener: public CameraListener

 

而具体实现上,由于CameraInput只需要带时间戳的数据,所以AndroidCameraInputListener只实现了postDataTimestamp回调函数。

void AndroidCameraInputListener::postDataTimestamp(nsecs_t timestamp,

int32_t msgType, const sp<IMemory>& dataPtr)

{

    if ((mCameraInput != NULL)

&& (msgType == CAMERA_MSG_VIDEO_FRAME)) {

        mCameraInput->postWriteAsync(timestamp, dataPtr);

    }

}

 

根据Opencore框架中CameraInput中的实现,CameraInput可以作为CameraClient端得一个实例,通过Camera和CameraService架构实现包括预览,录像在内的所有功能。

但在目前的Camera子系统中,Camera Recording模式与Camera Capture模式共享同一个CameraDevice实例,Camera Recording的预览是通过使用Camera Capture模式下的Surface实现的,即Camera Recording通过调用Camera Capture中的setPreviewDisplay和底层CameraHardware层的previewThread线程实现Camera Recording预览。



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值