- 博客(5)
- 收藏
- 关注
转载 在Atlas上做推理(5)-推理
经过了这么多这么多铺垫,终于可以进入正题了!使用ACL接口在NPU上推理目前在ACL中我们一般使用aclmdlExecuteAsync[1]接口调用NPU做推理,下面是调用的流程[2]:调用aclmdlQuerySize接口查询模型需要的内存大小。 调用aclrtMalloc为模型分配device memory。 调用aclmdlLoadFromFileWithMem将模型从文件加载到device memory中,并且得到一个model id 调用aclmdlGetDesc根据model
2022-02-19 21:07:09
529
转载 在Atlas上做推理(4)-画图
颜色空间RGB是比较常用的格式,也是OpenCV画图API中接受的格式,像素的排列是RGBRGB...DVPP编解码器的输入输出都是YUV420SP[1],如果要使用OpenCV的画图API的话需要先将解码后的图片从YUV420SP转成RGB,画图后再转回YUV420SP才能编码。而且颜色空间转换非常的慢,在Atlas200DK上将1080P的YUV420SP转成RGB就需要20ms左右,而画图加标注文字本身一般也只需要1ms左右。所以处于性能的考虑,我选择直接在YUV420SP上画图。YUV4
2022-02-19 20:58:19
228
转载 在Atlas上做推理(3)-编解码和一点点多媒体知识
在推理过程中,一个必要的步骤是将视频转换成一张张的图片。为了使用Atlas的硬件解码功能,我们选择使用ffmpeg的库完成这个相关的功能。题图来自GitHub上一个非常棒的教程。从题图中可以看出,在视频处理中主要分为4层(我自己的翻译):协议层: HTTP,文件,RTMP,RTSP等 格式层: MP4,AVI,MKV等 编码层: H264,H265等等 像素层: YUV420,RGB等等在推理应用中,我们选择使用ffmpeg帮我们处理协议层和格式层,使用DVPP完成编解码,使用NPU在像
2022-02-19 20:43:00
442
转载 在Atlas上做推理(2)-一个推理应用的基本流程
转载自我的知乎专栏当我们谈到推理应用的时候,一个很容易想到的场景就是:输入一个视频或视频流,进行推理,输出标注后的视频流。下面的视频是在Atlas200DK上使用yolov3+deepsort得到的结果。...
2022-02-19 20:21:22
450
2
转载 在Atlas上做推理(1)-基本概念与开发流程
转载自我的知乎专栏之前买了一个Atlas200DK,花了一些业余时间写了一个多路推理的端到端的demo。在这个过程中踩了很多坑,也学习到不少新知识。最近准备写一些文章,总结一下使用atlas推理的经验。我的demo代码仓库https://github.com/lenLRX/Atlas_ACL_E2E_Demo首先介绍一些基本概念:官网:atlas相关的软件包和文档可以在这个网址上找到,网站上还有官方论坛,遇到问题可以在上面提问,有官方人员回答。 CANN:Atlas主要的软件包, 里面
2022-02-18 22:44:19
394
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人