音视频开发 sdl库

介绍

SDL (Simple DirectMedia Layer) 是一个跨平台的开源多媒体库,它提供了底层访问多种硬件的接口,如音频、视频、输入设备等。它主要用于游戏开发,但也可用于其他类型的多媒体应用程序。下面是 SDL 的一些主要特点:

1. 跨平台性: SDL 支持多种操作系统,包括 Windows、macOS、Linux、iOS、Android 等。开发者可以编写一套代码,就能在不同平台上运行。

2. 高性能: SDL 采用底层硬件访问的方式,可以提供出色的性能表现。

3. 丰富的功能: SDL 包含了大量的功能模块,如窗口管理、图形渲染、音频处理、输入事件处理等。

4. 易用性: SDL 提供了简单易用的 API,开发者可以快速上手并实现各种多媒体功能。

5. 开源和免费: SDL 是一个开源项目,开发者可以免费使用并修改源代码。

SDL 广泛应用于游戏开发、模拟器、媒体播放器等领域。它拥有活跃的开发者社区,提供丰富的文档和示例代码,非常适合初学者和专业开发者使用。

下载安装

https://github.com/libsdl-org/SDL/releases/tag/release-2.30.6
下载编译好的 SDL2-devel-2.30.6-VC.zip

qt .por引入,并把SDL2.lib动态库文件放到build文件目录
win32 {
INCLUDEPATH += $$PWD/SDL2-2.30.6/include
LIBS  += $$PWD/SDL2-2.30.6/lib/x86/SDL2.lib
}

系统架构以及使用流程 

1.SDL子系统

SDL将功能分成下列数个子系统（subsystem）：
◼ SDL_INIT_TIMER：定时器
◼ SDL_INIT_AUDIO：音频
◼ SDL_INIT_VIDEO：视频
◼ SDL_INIT_JOYSTICK：摇杆
◼ SDL_INIT_HAPTIC：触摸屏
◼ SDL_INIT_GAMECONTROLLER：游戏控制器
◼ SDL_INIT_EVENTS：事件
◼ SDL_INIT_EVERYTHING：包含上述所有选项

2.SDL显示视频，数据结构和函数

◼ SDL_Init()：初始化SDL系统
◼ SDL_CreateWindow()：创建窗口SDL_Window
◼ SDL_CreateRenderer()：创建渲染器SDL_Renderer
◼ SDL_CreateTexture()：创建纹理SDL_Texture
◼ SDL_UpdateTexture()：设置纹理的数据
◼ SDL_RenderCopy()：将纹理的数据拷贝给渲染器
◼ SDL_RenderPresent()：显示
◼ SDL_Delay()：工具函数，用于延时
◼ SDL_Quit()：退出SDL系统

纹理 依赖 渲染器 依赖 窗口

SDL数据结构简介

◼ SDL_Window 代表了一个“窗口”
◼ SDL_Renderer 代表了一个“渲染器”
◼ SDL_Texture 代表了一个“纹理”
◼ SDL_Rect 一个简单的矩形结构

存储RGB和存储纹理的区别：
比如一个从左到右由红色渐变到蓝色的矩形，用存储RGB的话就需要把矩形中每个点的具体颜色值存储下来；而纹理只是一些描述信息，比如记录了矩形的大小、起始颜色、终止颜色等信息，显卡可以通过这些信息推算出矩形块的详细信息。所以相对于存储RGB而已，存储纹理占用的内存要少的多

理解：以一条美食街举例 
rgb方式详细记录这条美食街，比如1.炸鸡 （大鸡腿，小鸡腿10元2个） 2.炸串... 3.烧烤.... 4.小龙虾...
纹理方式记录基本信息  比如1-2家是油炸店  3-4是宵夜店

实战

视频显示 初学乍到

#include <stdio.h>
#include<SDL.h>

//屏蔽main因为sdl存在main
#undef main
int main()
{
    //创建窗口 渲染器 纹理器
    SDL_Window* window =NULL;
    SDL_Renderer* renderer =NULL;
    SDL_Texture* texture =NULL;


    SDL_Init(SDL_INIT_VIDEO);//初始化函数,可以确定希望激活的子系统
    //SDL_WINDOWPOS_UNDEFINED xy设置中心
    window =SDL_CreateWindow("测试sdl"    ,SDL_WINDOWPOS_UNDEFINED,SDL_WINDOWPOS_UNDEFINED
                                         ,640,480
                                         ,SDL_WINDOW_OPENGL);

    if(!window){
        printf("create windows error\n");
        return 1;
    }


    renderer =SDL_CreateRenderer(window,-1,0);
    if(!renderer) return 1;

    texture =SDL_CreateTexture(renderer,
                               SDL_PIXELFORMAT_RGBA8888
                               ,SDL_TEXTUREACCESS_TARGET
                               ,640,480);
    if(!texture) return -1;

    int count=0,run=1;
    SDL_Rect rect;
    rect.w=50;
    rect.h=50;
    while(run){
        rect.x =rand()%600;
        rect.y=rand()%400;

        SDL_SetRenderTarget(renderer,texture);// 设置渲染目标纹理对象
        SDL_SetRenderDrawColor(renderer,0,0,0,255); // 纹理背景为黑色
        SDL_RenderClear(renderer);//清除渲染目标上的所有内容

        SDL_RenderDrawRect(renderer,&rect);//在渲染目标上绘制一个矩形的轮廓和填充
        SDL_SetRenderDrawColor(renderer,0,255,255,255);
        SDL_RenderFillRect(renderer,&rect);

        SDL_SetRenderTarget(renderer,NULL);//将渲染目标设置为默认的渲染窗口
        SDL_RenderCopy(renderer,texture,NULL,NULL);//将之前绘制的矩形纹理拷贝到渲染窗口上

        SDL_RenderPresent(renderer);//将渲染的内容显示到屏幕上。
        SDL_Delay(300);
        if(count++ > 10) run =0;

    }




    SDL_DestroyTexture(texture);
    SDL_DestroyRenderer(renderer);
    SDL_DestroyWindow(window);
    SDL_Quit();
    return 0;
}

 

视频显示 小试牛刀

SDL事件系统

SDL事件
◼ 函数
• SDL_WaitEvent()：等待一个事件
• SDL_PushEvent()：发送一个事件
• SDL_PumpEvents()：将硬件设备产生的事件放入事件队列，用于读取事件，在调用该函数之前，必须调用SDL_PumpEvents搜集键盘等事件
• SDL_PeepEvents()：从事件队列提取一个事件
◼ 数据结构
• SDL_Event：代表一个事件

为什么需要? 
比如播放器进度条拖动则表示快进或者方向键移动15s，需要实现这些功能就必须要通过键盘事件映射
好处有特别多。

#include <SDL.h>
#include <stdio.h>
#define FF_QUIT_EVENT    (SDL_USEREVENT + 2) // 用户自定义事件
#undef main
int main(int argc, char* argv[])
{

    SDL_Init(SDL_INIT_VIDEO);               // Initialize SDL2
    SDL_Window * window = SDL_CreateWindow(
                "An SDL2 window",                  // window title
                SDL_WINDOWPOS_UNDEFINED,           // initial x position
                500,           // initial y position
                640,                               // width, in pixels
                480,                               // height, in pixels
                SDL_WINDOW_SHOWN | SDL_WINDOW_BORDERLESS// flags - see below
                );

    SDL_Renderer *renderer = SDL_CreateRenderer(window, -1, 0);
    SDL_SetRenderDrawColor(renderer, 255, 0, 0, 255); //红色画布
    SDL_RenderClear(renderer);
    SDL_RenderPresent(renderer);//将渲染的内容显示到屏幕上。

    SDL_Event event;
    int b_exit = 0;
    for (;;)
    {
        SDL_WaitEvent(&event);  //等待事件
        switch (event.type)
        {
        case SDL_KEYDOWN:	/* 键盘事件 */
            switch (event.key.keysym.sym)
            {
            case SDLK_a:
                printf("key down a\n");
                break;
            case SDLK_s:
                printf("key down s\n");
                break;
            case SDLK_d:
                printf("key down d\n");
                break;
            case SDLK_q:
                printf("key down q and push quit event\n");
                SDL_Event event_q;  //自定义事件
                event_q.type = FF_QUIT_EVENT;
                SDL_PushEvent(&event_q);
                break;
            default:
                printf("key down 0x%x\n", event.key.keysym.sym);
                break;
            }
            break;
        case SDL_MOUSEBUTTONDOWN:			/* 鼠标按下事件 */
            if (event.button.button == SDL_BUTTON_LEFT)         printf("mouse down left\n");
            else if(event.button.button == SDL_BUTTON_RIGHT)    printf("mouse down right\n");
            else     printf("mouse down %d\n", event.button.button);

            break;
        case SDL_MOUSEMOTION:		/* 鼠标移动事件 */
            printf("mouse movie (%d,%d)\n", event.button.x, event.button.y);
            break;
        case FF_QUIT_EVENT:  //自定义事件处理
            printf("receive quit event\n");
            b_exit = 1;
            break;
        }
        if(b_exit)
            break;
    }


    if (renderer)
        SDL_DestroyRenderer(renderer);
    if (window)
        SDL_DestroyWindow(window);
    SDL_Quit();
    return 0;
}

 小试牛刀2

SDL线程

SDL多线程
◼ SDL线程创建：SDL_CreateThread
◼ SDL线程等待：SDL_WaitThead
◼ SDL互斥锁：SDL_CreateMutex/SDL_DestroyMutex
◼ SDL锁定互斥：SDL_LockMutex/SDL_UnlockMutex
◼ SDL条件变量(信号量)：SDL_CreateCond/SDL_DestoryCond
◼ SDL条件变量(信号量)等待/通知：SDL_CondWait/SDL_CondSingal 

注意点坑点： SDL_CondSingal 只会通知等待在这个信号量上的线程，不会释放当前线程锁
cpp新特性notify会通知并释放当前持有的互斥锁。

为什么需要？
虽然cpp新特性提供了，但是sdl的互斥锁条件变量，粒度更小，能够更好的适用与视频编解码

#include <SDL.h>
#include <stdio.h>

SDL_mutex *s_lock = NULL;
SDL_cond *s_cond = NULL;

int thread_work(void *arg)
{
    SDL_LockMutex(s_lock);
    printf("                <============thread_work sleep\n");
    sleep(10);      // 用来测试获取锁
    printf("                <============thread_work wait\n");
    SDL_CondWait(s_cond, s_lock); //另一个线程(1)发送signal和(2)释放lock后，这个函数退出

    printf("                <===========thread_work receive signal, continue to do ~_~!!!\n");
    SDL_UnlockMutex(s_lock);
    printf("                <===========thread_work end\n");
    return 0;
}

#undef main
int main()
{
    s_lock = SDL_CreateMutex();
    s_cond = SDL_CreateCond();
    SDL_Thread * t = SDL_CreateThread(thread_work,"thread_work",NULL);
    if(!t)
    {
        printf("  %s",SDL_GetError);
        return -1;
    }

    for(int i = 0;i< 2;i++)
    {
        sleep(2);
        printf("main execute =====>\n");
    }
    printf("main SDL_LockMutex(s_lock) before ====================>\n");
    SDL_LockMutex(s_lock);  // 获取锁，但是子线程还拿着锁
    printf("main ready send signal====================>\n");
    printf("main SDL_CondSignal(s_cond) before ====================>\n");
    SDL_CondSignal(s_cond); // 发送信号，唤醒等待的线程
    printf("main SDL_CondSignal(s_cond) after ====================>\n");
    sleep(10);
    SDL_UnlockMutex(s_lock);// 释放锁，让其他线程可以拿到锁
    printf("main SDL_UnlockMutex(s_lock) after ====================>\n");

    SDL_WaitThread(t, NULL);
    SDL_DestroyMutex(s_lock);
    SDL_DestroyCond(s_cond);

    return 0;
}

略有小成 播放yuv视频

代码思路：
1.开辟一个线程，不停投递自定义事件，实现自定义事件循环，并做一些做退出处理。

2.准备一个yuv420p_320x240文件，进行初始化工作 窗口->渲染器->纹理 记录一些基本信息
进入死循环，通过自定义事件编写读取yuv420p数据，每次读取一帧的yuv分量图像。
将数据通过渲染器展示在窗口。

3. 还定义了窗口拖拽，保持320x240比例。比如横拉 不会造成比例失调

#include <stdio.h>
#include <string.h>

#include <SDL.h>

//自定义消息类型
#define REFRESH_EVENT   (SDL_USEREVENT + 1)     // 请求画面刷新事件
#define QUIT_EVENT      (SDL_USEREVENT + 2)     // 退出事件

//定义分辨率
// YUV像素分辨率
#define YUV_WIDTH   320
#define YUV_HEIGHT  240
//定义YUV格式
#define YUV_FORMAT  SDL_PIXELFORMAT_IYUV

int s_thread_exit = 0;  // 退出标志 = 1则退出

int refresh_video_timer(void *data)
{
    while (!s_thread_exit)
    {
        SDL_Event event;
        event.type = REFRESH_EVENT;
        SDL_PushEvent(&event);
        SDL_Delay(40);
    }

    s_thread_exit = 0;

    //push quit event
    SDL_Event event;
    event.type = QUIT_EVENT;
    SDL_PushEvent(&event);

    return 0;
}
#undef main
int main(int argc, char* argv[])
{
    //初始化 SDL
    if(SDL_Init(SDL_INIT_VIDEO))
    {
        fprintf( stderr, "Could not initialize SDL - %s\n", SDL_GetError());
        return -1;
    }

    // SDL
    SDL_Event event;                            // 事件
    SDL_Rect rect;                              // 矩形
    SDL_Window *window = NULL;                  // 窗口
    SDL_Renderer *renderer = NULL;              // 渲染
    SDL_Texture *texture = NULL;                // 纹理
    SDL_Thread *timer_thread = NULL;            // 请求刷新线程
    uint32_t pixformat = YUV_FORMAT;            // YUV420P，即是SDL_PIXELFORMAT_IYUV

    // 分辨率
    // 1. YUV的分辨率
    int video_width = YUV_WIDTH;
    int video_height = YUV_HEIGHT;
    // 2.显示窗口的分辨率
    int win_width = YUV_WIDTH;
    int win_height = YUV_WIDTH;

    // YUV文件句柄
    FILE *video_fd = NULL;
    const char *yuv_path = "yuv420p_320x240.yuv";

    size_t video_buff_len = 0;

    uint8_t *video_buf = NULL; //读取数据后先把放到buffer里面

    // 我们测试的文件是YUV420P格式
    uint32_t y_frame_len = video_width * video_height;
    uint32_t u_frame_len = video_width * video_height / 4;
    uint32_t v_frame_len = video_width * video_height / 4;
    uint32_t yuv_frame_len = y_frame_len + u_frame_len + v_frame_len;

    //创建窗口
    window = SDL_CreateWindow("Simplest YUV Player",
                           SDL_WINDOWPOS_UNDEFINED,
                           SDL_WINDOWPOS_UNDEFINED,
                           video_width, video_height,
                           SDL_WINDOW_OPENGL|SDL_WINDOW_RESIZABLE);
    if(!window)
    {
        fprintf(stderr, "SDL: could not create window, err:%s\n",SDL_GetError());
        goto _FAIL;
    }
    // 基于窗口创建渲染器
    renderer = SDL_CreateRenderer(window, -1, 0);
    // 基于渲染器创建纹理
    texture = SDL_CreateTexture(renderer,
                                pixformat,
                                SDL_TEXTUREACCESS_STREAMING,
                                video_width,
                                video_height);

    // 分配空间
    video_buf = (uint8_t*)malloc(yuv_frame_len);
    if(!video_buf)
    {
        fprintf(stderr, "Failed to alloce yuv frame space!\n");
        goto _FAIL;
    }

    // 打开YUV文件
    video_fd = fopen(yuv_path, "rb");
    if( !video_fd )
    {
        fprintf(stderr, "Failed to open yuv file\n");
        goto _FAIL;
    }
    // 创建请求刷新线程
    timer_thread = SDL_CreateThread(refresh_video_timer,
                                    NULL,
                                    NULL);
    float video_ratio = (float)video_width / (float)video_height;
    float video_ratio2 =0;

    while (1)
    {
        // 收取SDL系统里面的事件
        SDL_WaitEvent(&event);

        if(event.type == REFRESH_EVENT) // 画面刷新事件
        {
            video_buff_len = fread(video_buf, 1, yuv_frame_len, video_fd);
            if(video_buff_len <= 0)
            {
                fprintf(stderr, "Failed to read data from yuv file!\n");
                goto _FAIL;
            }
            // 设置纹理的数据 video_width = 320， plane
            SDL_UpdateTexture(texture, NULL, video_buf, video_width);

            // 显示区域，可以通过修改w和h进行缩放
            rect.x = 0;
            rect.y = 0;

            // 320x240 怎么保持原视频的宽高比例
            rect.w = win_width;
            rect.h = win_height;
//            rect.w = video_width * 0.5;
//            rect.h = video_height * 0.5;

            // 清除当前显示
            SDL_RenderClear(renderer);
            // 将纹理的数据拷贝给渲染器
            SDL_RenderCopy(renderer, texture, NULL, &rect);
            // 显示
            SDL_RenderPresent(renderer);
        }
        else if(event.type == SDL_WINDOWEVENT)
        {

            printf(" win_width:%d, win_height:%d newratio:%d \n", win_width, win_height);

            //If Resize
            SDL_GetWindowSize(window, &win_width, &win_height);
            float new_ratio = (float)win_width / (float)win_height;

            // 保持原有的宽高比
            if (new_ratio > video_ratio)
            {
                // 新窗口更宽, 以高度为基准计算宽度
                 win_height = win_width / video_ratio;
            }
            else
            {
                // 新窗口更高, 以宽度为基准计算高度
                win_width =  win_height * video_ratio;
            }

            printf("SDL_WINDOWEVENT win_width:%d, win_height:%d newratio:%d \n", win_width, win_height,new_ratio);

        }
        else if(event.type == SDL_QUIT) //退出事件
        {
            s_thread_exit = 1;
        }
        else if(event.type == QUIT_EVENT)
        {
            break;
        }
    }

_FAIL:
    s_thread_exit = 1;      // 保证线程能够退出
    // 释放资源
    if(timer_thread)
        SDL_WaitThread(timer_thread, NULL); // 等待线程退出
    if(video_buf)
        free(video_buf);
    if(video_fd)
        fclose(video_fd);
    if(texture)
        SDL_DestroyTexture(texture);
    if(renderer)
        SDL_DestroyRenderer(renderer);
    if(window)
        SDL_DestroyWindow(window);

    SDL_Quit();

    return 0;

}

 略有小成 播放pcm声音

测试的PCM数据采用采样率44.1k, 采用精度S16SYS, 通道数2
1.提取PCM文件
ffmpeg -i input.mp4 -t 20 -codec:a pcm_s16le -ar 44100 -ac 2 -f s16le 44100_16bit_2ch.pcm
ffplay -ar 44100 -ac 2 -f s16le 44100_16bit_2ch.pcm


2.打开音频设备desired：期望的参数。 obtained：实际音频设备的参数，一般情况下设置为NULL即可。
int SDLCALL SDL_OpenAudio(SDL_AudioSpec * desired, SDL_AudioSpec * obtained);

typedef struct SDL_AudioSpec {
    int freq; // 音频采样率
    SDL_AudioFormat format; // 音频数据格式
    Uint8 channels; // 声道数: 1 单声道, 2 立体声
    Uint8 silence; // 设置静音的值，因为声音采样是有符号的，所以0当然就是这个值
    Uint16 samples; // 音频缓冲区中的采样个数， 要求必须是2的n次
    Uint16 padding; // 考虑到兼容性的一个参数
    Uint32 size; // 音频缓冲区的大小，以字节为单位
    SDL_AudioCallback callback; // 填充音频缓冲区的回调函数  44100 / 1024 = 43次/s 
    void *userdata; // 用户自定义的数据
} SDL_AudioSpec;

帧率计算公示 ：ar * ac * nbit采样点
以1024个采样点一帧 2通道 16bit采样点为例 (1024*2*2*2) 4096字节  20s 3528004 
计算帧率:
总采样点数 = 3,528,004
每帧 4096 byte
所以总帧数 = 3,528,004 / 4096 = 862
视频时长 20s
帧率 = 862 / 20 = 43.1 Hz 差不多对应上了44hz

2.1音频缓冲区的回调函数
void (SDLCALL * SDL_AudioCallback) (void *userdata, Uint8 *stream, int len);
userdata：SDL_AudioSpec结构中的用户自定义数据，一般情况下可以不用。
stream：该指针指向需要填充的音频缓冲区。
len：音频缓冲区的大小（以字节为单位）1024*2*2。

3.播放音频数据
当pause_on设置为0的时候即可开始播放音频数据。设置为1的时候，将会播放静音的值。
void SDLCALL SDL_PauseAudio(int pause_on)

4.销毁动作，避开原则。具体看代码

#include <stdio.h>
#include <SDL.h>

// 每次读取2帧数据, 以1024个采样点一帧 2通道 16bit采样点为例
#define PCM_BUFFER_SIZE (1024*2*2*2)

// 音频PCM数据缓存
static Uint8 *s_audio_buf = NULL;
// 目前读取的位置
static Uint8 *s_audio_pos = NULL;
// 缓存结束位置
static Uint8 *s_audio_end = NULL;


//音频设备回调函数
void fill_audio_pcm(void *udata, Uint8 *stream, int len)
{
    SDL_memset(stream, 0, len);

    if(s_audio_pos >= s_audio_end) // 数据读取完毕
    {
        return;
    }

    // 数据够了就读预设长度，数据不够就只读部分（不够的时候剩多少就读取多少）
    int remain_buffer_len = s_audio_end - s_audio_pos;
    len = (len < remain_buffer_len) ? len : remain_buffer_len;
    // 拷贝数据到stream并调整音量
    SDL_MixAudio(stream, s_audio_pos, len, SDL_MIX_MAXVOLUME/8);
    printf("len = %d\n", len);
    s_audio_pos += len;  // 移动缓存指针
}

// 提取PCM文件
// ffmpeg -i input.mp4 -t 20 -codec:a pcm_s16le -ar 44100 -ac 2 -f s16le 44100_16bit_2ch.pcm
// 测试PCM文件
// ffplay -ar 44100 -ac 2 -f s16le 44100_16bit_2ch.pcm
#undef main
int main(int argc, char *argv[])
{
    int ret = -1;


    const char *path = "44100_16bit_2ch.pcm";
    // 每次缓存的长度
    size_t read_buffer_len = 0;

    //SDL initialize
    if(SDL_Init(SDL_INIT_AUDIO))    // 支持AUDIO
    {
        fprintf(stderr, "Could not initialize SDL - %s\n", SDL_GetError());
        return ret;
    }
    FILE *audio_fd = NULL;
    //打开PCM文件
    audio_fd = fopen(path, "rb");
    if(!audio_fd)
    {
        fprintf(stderr, "Failed to open pcm file!\n");
        goto _FAIL;
    }
    SDL_AudioSpec spec;
    s_audio_buf = (uint8_t *)malloc(PCM_BUFFER_SIZE);

    // 音频参数设置SDL_AudioSpec
    spec.freq = 44100;          // 采样频率
    spec.format = AUDIO_S16SYS; // 采样点格式
    spec.channels = 2;          // 2通道
    spec.silence = 0;
    spec.samples = 1024;       // 44100 / 1024 = 43次/s  每次读取的采样数量，多久产生一次回调和 samples
    spec.callback = fill_audio_pcm; // 回调函数
    spec.userdata = NULL;

    //打开音频设备
    if(SDL_OpenAudio(&spec, NULL))
    {
        fprintf(stderr, "Failed to open audio device, %s\n", SDL_GetError());
        goto _FAIL;
    }

    //play audio
    SDL_PauseAudio(0);

    int data_count = 0;
    while(1)
    {
        // 从文件读取PCM数据
        read_buffer_len = fread(s_audio_buf, 1, PCM_BUFFER_SIZE, audio_fd);
        if(read_buffer_len == 0)
        {
            break;
        }
        data_count += read_buffer_len; // 统计读取的数据总字节数
        printf("now playing %10d bytes data.\n",data_count);
        s_audio_end = s_audio_buf + read_buffer_len;    // 更新buffer的结束位置
        s_audio_pos = s_audio_buf;  // 更新buffer的起始位置
        //the main thread wait for a moment
        while(s_audio_pos < s_audio_end)
        {
            SDL_Delay(10);  // 等待PCM数据消耗
        }
    }
    printf("play PCM finish\n");
    // 关闭音频设备
    SDL_CloseAudio();

_FAIL:
    //release some resources
    if(s_audio_buf)
        free(s_audio_buf);

    if(audio_fd)
        fclose(audio_fd);

    //quit SDL
    SDL_Quit();

    return 0;
}

 总结

 SDL 提供了丰富的多媒体开发功能,是学习音视频开发的一个很好的辅助工具。