ffmpeg opencv 打开视频文件,并且播放

// FFMpeg + OpenCV demo  
#include <stdio.h>  
#include <opencv2/core/core.hpp>  
#include <opencv2/highgui/highgui.hpp>  

#ifdef __cplusplus  
extern "C" {
#endif  

#include <libavformat/avformat.h>  
#include <libavcodec/avcodec.h>  
#include <libswscale/swscale.h>  
#include <libavformat/avformat.h>  
#include <libavcodec/avcodec.h>  
#include <libswscale/swscale.h>  
#include <libavutil/opt.h>
#include <libavcodec/avcodec.h>
#include <libavutil/channel_layout.h>
#include <libavutil/common.h>
#include <libavutil/imgutils.h>
#include <libavutil/mathematics.h>
#include <libavutil/samplefmt.h>

#ifdef __cplusplus  
}
#endif  

#include <iostream>

static void CopyDate(AVFrame *pFrame, int width, int height, int time);
static void SaveFrame(AVFrame *pFrame, int width, int height, int iFrame);

using namespace cv;
using namespace std;

int main(int argc, char* argv[])
{
	int result = 0;
	av_register_all(); // 注册所有FFmpeg库所支持的文件格式和codec

	AVFormatContext* pFormatCtx;
	char* filename = "up.mp4"; //输入文件名

	// step1: 打开媒体文件,最后2个参数是用来指定文件格式,buffer大小和格式参数,设置成NULL的话,libavformat库会自动去探测它们
	result = avformat_open_input(&pFormatCtx, filename, NULL, NULL);
	if (result != 0)
	{
		cout << "open file fail" << endl;
		return -1;
	}
	cout << "open file succ" << endl;

	// step2: 查找信息流的信息
	result = avformat_find_stream_info(pFormatCtx, NULL);
	if (result != 0)
	{
		cout << "find stream fail" << endl;
		return -1;
	}
	cout << "find stream succ" << endl;

	// step3: 打印信息
	//av_dump_format(pFormatCtx, 0, filename, 0);

	// step4:找到video流数据
	int i = 0;
	int videoStream = -1;
	AVCodecContext* pCodecCtx = NULL;
	for (i = 0; i < pFormatCtx->nb_streams; i++)
	{
		if (pFormatCtx->streams[i]->codec->codec_type == AVMEDIA_TYPE_VIDEO)
		{
			videoStream = i;
			break;
		}
	}

	if (videoStream == -1)
	{
		cout << "find stream video fail" << endl;
		return -1;
	}
	cout << "find stream video succ." << endl;

	// 得到video编码格式
	pCodecCtx = pFormatCtx->streams[videoStream]->codec;
	
	// step5: 得到解码器
	AVCodec* pCodec = NULL;
	pCodec = avcodec_find_decoder(pCodecCtx->codec_id);
	if (pCodec == NULL)
	{
		cout << "find decoder fail" << endl;
		return -1;
	}
	cout << "find decoder succ" << endl;

	result = avcodec_open2(pCodecCtx, pCodec, NULL);
	if (result != 0)
	{
		cout << "open codec fail" << endl;
		return -1;
	}
	cout << "open codec succ" << endl;

	// step6: 申请原始数据帧 和 RGB帧内存
	AVFrame* pFrame = NULL;
	AVFrame* pFrameRGB = NULL;
	pFrame = av_frame_alloc();
	pFrameRGB = av_frame_alloc();
	if (pFrame == NULL || pFrameRGB == NULL)
	{
		return -1;
	}

	int numBytes = avpicture_get_size(AV_PIX_FMT_RGB24, pCodecCtx->width, pCodecCtx->height);
	uint8_t* buffer = (uint8_t*)av_malloc(numBytes * sizeof(uint8_t));
	avpicture_fill((AVPicture*)pFrameRGB, buffer, AV_PIX_FMT_RGB24, pCodecCtx->width, pCodecCtx->height);

	int frameFinishsed = 0;
	AVPacket packet;
	i = 0; 

	// step7: 创建格式转化文本
	SwsContext * pSwxCtx = sws_getContext(
		pCodecCtx->width, pCodecCtx->height, pCodecCtx->pix_fmt,
		pCodecCtx->width, pCodecCtx->height, AV_PIX_FMT_RGB24,
		SWS_BILINEAR, 0, 0, 0);

	cv::Mat image(pCodecCtx->height, pCodecCtx->width, CV_8UC3);
	int b = 0;
	int g = 1;
	int r = 2;

	while (true)
	{
		// 得到数据包
		result = av_read_frame(pFormatCtx, &packet);
		if (result != 0)
		{
			break;
		}

		if (packet.stream_index == videoStream)
		{
			// 解码
			avcodec_decode_video2(pCodecCtx, pFrame, &frameFinishsed, &packet);

			if (frameFinishsed)
			{
				// 转换
				sws_scale(pSwxCtx, pFrame->data, pFrame->linesize, 0, pCodecCtx->height,
					pFrameRGB->data, pFrameRGB->linesize);

				for (int m = 0; m < pCodecCtx->height; m++)
				{
					for (int n = 0; n < pCodecCtx->width; n++)
					{
						image.at<Vec3b>(m, n)[r] = pFrameRGB->data[0][3 * (m*pCodecCtx->width + n) + 0];
						image.at<Vec3b>(m, n)[g] = pFrameRGB->data[0][3 * (m*pCodecCtx->width + n) + 1];
						image.at<Vec3b>(m, n)[b] = pFrameRGB->data[0][3 * (m*pCodecCtx->width + n) + 2];
					}
				}
				cv::imshow("pic", image);
				cv::waitKey(30);
			}
		}

		av_free_packet(&packet);
	}
	
	avformat_close_input(&pFormatCtx);

	system("pause");
	return 0;
}




在Java中,若要使用OpenCV播放视频的声音部分,你需要结合使用OpenCV库与音频处理相关的Java库。这里推荐一种常见的做法,即使用OpenCV进行视频流读取,并利用Java的`java.io`包或其他多媒体处理库如JavaFX Media API等来处理音频。 **步骤如下:** ### 1. 安装所需依赖 首先,你需要安装OpenCV及其Java绑定(通常被称为JavaCV)。此外,确保你也获取了用于处理音频文件所需的依赖。这可能包括一个音频解码库,例如Lavf。 ```bash // 对于OpenCV Java绑定 mvn install -DskipTests // 可能需要的音频处理库和依赖,具体取决于所使用的音频解码功能 ``` ### 2. 读取视频并分离音频 使用OpenCV读取视频文件。由于OpenCV本身主要用于图像处理而非音频操作,你可能还需要一些额外的音频处理API。这里假设我们已经将视频帧处理完毕并且想要开始音频部分的操作: ```java import org.bytedeco.javacv.*; public class VideoAudioExtractor { public static void main(String[] args) throws IOException { // 读取视频 FFmpegFrameGrabber videoGrabber = new FFmpegFrameGrabber("path/to/video.mp4"); videoGrabber.start(); // 创建音频输出文件 AudioFormat audioFormat = new AudioFormat(AudioFormat.Encoding.PCM_SIGNED, 44100, 16); AudioSystem.write(new AudioInputStream(videoGrabber.getAudioStream(), audioFormat, "output/path/audio.wav"), null); // 结束FFmpeg会话 videoGrabber.stop(); } } ``` 在这个示例中,我们创建了一个`FFmpegFrameGrabber`实例来打开视频文件,并通过`getAudioStream()`方法提取音频数据。然后使用`AudioSystem.write()`函数将音频数据保存到文件中。 ### 相关问题: 1. **如何优化视频和音频的数据传输性能?** 在处理大型视频文件时,可以考虑使用更高效的数据编码格式(比如H.265相比H.264)以及调整音频比特率以减少数据量而不显著降低音质。 2. **在Java中播放视频声音时遇到的常见问题有哪些?** 这些问题可能包括音频同步错误、无法识别音频格式、资源管理不当导致的内存泄漏等。解决这些问题通常涉及对音频库配置的精确控制以及合理管理资源的生命周期。 3. **除了JavaCV,还有哪些Java库可用于集成OpenCV并处理多媒体任务?** 除了JavaCV之外,还可以考虑使用JCodec、Mirosoft Azure Cognitive Services for Computer Vision API 或者自定义集成其他外部库(如FFmpeg通过Java Binding)来扩展OpenCV的功能,以满足更多复杂多媒体处理需求。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值