ncnn常见问题和可优化点备忘

 
问题1:
 目前的实现是每次extract都会重新分配内存,然后下一次预测再重新create extractor,重新分配所有blob的内存吧?
这样对于一些持续检测的应用来说,不断的分配回收内存,是不是也存在较大的开销呀
有没有选项,可以让ncnn每次预测完后不销毁blob,而是每次都复用,这样可以减少频繁重复调用时malloc和free的开销?

从目前的框架上来看,每次都需要创建一个extractor对象,而blob的数据是extractor的私有数据,所以只能频繁重复调用create/release,对于你那种很轻的网络,这里就是性能瓶颈之一了 。
自己写个 fastMalloc 和 fastFree 换掉 mat.h,自己实现内存池,或者 tcmalloc 。


问题2:
yuv420sp转rgb
因为 android 上面摄像头回调是yuv420sp,yuv420sp转rgb,是y平铺,vu 交叉。
420p是全平铺。
在C++中,为了对图像进行预处理以适应YOLOv5这样的基于NCNN的深度学习模型,我们可以创建一个名为`preprocess_image`的函数。这个函数通常会包含以下几个步骤: ```cpp #include <ncnn/ncnn.h> #include <opencv2/opencv.hpp> // 定义预处理函数 cv::Mat preprocess_image(const cv::Mat& input_image, int input_size) { // 1. 将BGR图像转换为RGB (因为YOLOv5默认期望输入为RGB) cv::Mat rgb_image; cv::cvtColor(input_image, rgb_image, cv::COLOR_BGR2RGB); // 2. 缩放图像到指定大小 (如果需要保持原始比例,则可以调整这一步) cv::resize(rgb_image, rgb_image, cv::Size(input_size, input_size), interpolationMethod); // 3. 归一化像素值 (一般使用0-1范围) cv::Mat normalized_image; cv::normalize(rgb_image, normalized_image, 0.0, 1.0, cv::NORM_MINMAX, -1, cv::Mat()); // 4. 将OpenCV Mat转为NCNN所需的Format (如NCNN的Data指针) NcnnTensor data; data.fromBlob(normalized_image.data, normalized_image.channels(), normalized_image.size().width, normalized_image.size().height); return data; // 返回预处理后的NCNN Tensor } // 相关问题: 1. YOLOv5对输入图像的具体尺寸有何要求? 2. 这个函数中的interpolationMethod应该设置为什么? 3. 如果输入的图像已经归一化了,是否还需要再进行这一步操作? ``` 这里的`interpolationMethod`需要根据YOLOv5文档中的推荐选择合适的插值方法,比如`cv::INTER_LINEAR`。如果输入图像已经归一化,可以根据实际需求决定是否再次进行归一化,但一般情况下YOLOv5期望接收到未归一化的数据。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值