音视频编解码问题:javaCV如何快速进行音频预处理和解复用编解码(基于javaCV-FFMPEG)

 JavaCV免费教程目录:

JavaCV入门教程(免费JavaCV教程)

javacv实战专栏目录(2016年更新至今):

JavaCV实战专栏文章目录(2016年更新至今)

2022年最新JavaCV最新音视频教程目录:

JavaCV音视频教程目录(2022年最新JavaCV教程)


前言

前面我用了很多章实现了javaCV的基本操作,包括:音视频捕捉(摄像头视频捕捉和话筒音频捕捉),推流(本地音视频或者摄像头话筒混合推流到服务器),转流(rtsp->rtmp),收流(录制)。

序:

我们知道javaCV中编码需要先取到一帧采样的音频(即采样率x通道数,我们姑且把这个称为一帧采样数据)

其实我们在该篇文章javaCV开发详解之6:本地音频(话筒/麦克风设备采集)和视频(摄像头图像画面)抓取混合录制视频文件或合并推流到流媒体服务器_eguid-CSDN博客_javacv 音频推流中已经对音频进行转码了。

额。。这个真没看出来(PS:博主也没看出来 0_0 !)。。。。。。。。。

我们获取了本地的音频音频数据(具体啥编码博主也不晓得,只知道是16位的, - -! ,不过这不要紧,FFMPEG能我们实现,下面将会讲到 );

其中我们做了大小端序的转换和byte[]转short[](双8位转单16位),音频编解码中这个操作我们会经常用;

然后我们使用了recoder.reacordSimples(采样率,通道数,一份采样);

对比一下音频捕获的文章:http://blog.csdn.net/eguid_1/article/details/52702385

发现了吗?没错,我们给recorder设置了一些属性:

// 不可变(固定)音频比特率  
        recorder.setAudioOption("crf", "0");  
        // 最高质量  
        recorder.setAudioQuality(0);  
        // 音频比特率  
        recorder.setAudioBitrate(192000);  
        // 音频采样率  
        recorder.setSampleRate(44100);  
        // 双通道(立体声)  
        recorder.setAudioChannels(2);  
        // 音频编/解码器  
        recorder.setAudioCodec(avcodec.AV_CODEC_ID_AAC);  

看到了吗?我们其实已经设置了编/解码格式aac,为什么呢?因为javaCV已经封装了解复用和编码这两个操作。

补充:

补充一下javaCV底层的ffmpeg解复用/编码流程:

我们在进行recoder.reacordSimples的时候javaCV底层调用ffmpeg的swr_convert()方法(详见javaCV的FFmpegFrameRecoder类974行)进行了解码操作,完成了对pcm16le编码的解复用;

解码完成之后又调用了recorder.record(Frame frame)(详见javaCV的FFmpegFrameRecoder类994行),在这个环节完成了调用了FFMPEG的avcodec_encode_audio2()方法(详见javaCV的FFmpegFrameRecoder类1006行)按照我们已经设定好的的aac格式完成了编

码操作,所以我们本身是不需要进行解复用/编码的操作的(视频也是一样,以后会讲到),因为javaCV已经帮我门做了!

到这里肯定有些小伙伴已经5脸懵bi的状态了。。。 - -!,最不幸的是,上面一堆的前言和补充知识,我们的主题还没开始。 0_0 !

eguid唯一技术博客是csdn,博主唯一交流群是群号:371249677 (点击这里进群),欢迎大家来埋汰群主

1、java音频预处理

既然javaCV已经帮我门做了解复用和编码,那么我们只需要将获得到的音频数据进行简单的预处理即可。

注:如果是文件或者服务器直播流,那么连预处理都省了,直接设置编码格式即可,不需要我们手动做任何处理。

这里讲一下特殊的byte[]流,也就是基于socket的IO流形式的音频数据处理,一般我们使用这种的情况是移动端通过socket推流到中转服务器,让中转服务器进行转码推送到流媒体服务器。

1.1、如何从byte[]流中获取一份完整的音频帧(即一帧采样数据)

就拿 8000采样率,16bit,双通道(立体声)的pcm16le编码来说吧举例说明吧

我们知道这个音频采样率是8000,位数是16bit,2个通道,那么我们就知道这个编码的一帧就是(8000x2 )个byte

1.2、音频原始数据转换

一个byte只能表示8bit数据,我们要表示16位的音频数据就需要装换为short,一个short等于2个byte,在转换的同时进行大小端序转换(大小端序问题详见java音视频编解码问题:16/24/32位位音频byte[]转换为小端序short[],int[],以byte[]转short[]为例_eguid-CSDN博客),那么我们最后得到的数据应该是一个长度是8000的short数组(即short[8000])来表示一帧音频采样数据。

音频的预处理到此完毕,接下来该javaCV出场了

2、javaCV音频解复用及编码

通过上面一大堆的前言,已经知道:音频数据直接通过recorder设置音频编码参数即可自动进行解复用和编码

只需要调用recorder.recordSamples(采样率,通道数量,一份采样数据)即可。

我的天呐,这真真是用一行代码解决了C/C++好几百行的事情!

如果觉得博主写得还不错,欢迎“关注、收藏、点赞”一键三连!

end


其他JavaCV专栏推荐:

2022年最新JavaCV最新音视频教程目录:

JavaCV音视频教程目录(2022年最新JavaCV教程)

JavaCV入门指南专栏

JavaCV入门指南:序章(看完本章后,不想看原理的小伙伴可直接跳转到《快速上手篇》)

JavaCV入门指南:调用FFmpeg原生API和JavaCV是如何封装了FFmpeg的音视频操作

JavaCV入门指南:调用opencv原生API和JavaCV是如何封装了opencv的图像处理操作

JavaCV入门指南:帧抓取器(FrameGrabber)的原理与应用

JavaCV入门指南:帧录制器/推流器(FrameRecorder)的原理与应用

JavaCV入门指南:帧过滤器(FrameFilter)的原理与应用

JavaCV入门指南:FrameConverter转换工具类及CanvasFrame图像预览工具类

《快速上手篇》(为了区别,单独划分):

JavaCV入门指南之快速上手篇:快速上手视频拉流、推流、录制文件、录屏、截图和编解码复用解复用等常用音视频处理操作

javacv进阶tesserac文字识别系列:

javaCV文字识别之1:基于google的tesserac ocr识别图片中的文字,跨平台支持英文中文简体繁体等各种字符识别

javaCV文字识别之2:视频文字识别和视频提取字幕文字字符

javacv进阶ffmpeg系列:

javacpp-FFmpeg系列之1:视频拉流解码成YUVJ420P,并保存为jpg图片

javacpp-FFmpeg系列之2:通用拉流解码器,支持视频拉流解码并转换为YUV、BGR24或RGB24等图像像素数据

javacpp-FFmpeg系列之3: 图像数据转换(BGR与BufferdImage互转,RGB与BufferdImage互转)

javacpp-FFmpeg系列补充:FFmpeg解决avformat_find_stream_info检索时间过长问题

javacv进阶opencv系列:

javaCV图像处理之1:实时视频添加文字水印并截取视频图像保存成图片,实现文字水印的字体、位置、大小、粗度、翻转、平滑等操作

javaCV图像处理之2:实时视频添加图片水印,实现不同大小图片叠加,图像透明度控制

javacv图像处理3:使用opencv原生方法遍历摄像头设备及调用(方便多摄像头遍历及调用,相比javacv更快的摄像头读取速度和效率,方便读取后的图像处理)

javacv图像处理系列:国内车辆牌照检测识别系统(万份测试准确率99.7%以上)

javacv人脸检测识别:

JavaCV进阶opencv图像处理:摄像头画面人脸检测

JavaCV进阶opencv图像处理:ffmpeg视频图像画面人脸检测

JavaCV进阶opencv图像处理:批量人脸图像分类训练

JavaCV进阶opencv图像处理:摄像头图像人脸识别

  • 5
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 9
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

eguid_1

感谢支持eguid原创技术文章

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值