超级会员免费看
本文详细介绍了NCNN模型推理的过程，包括依赖库如aarch64、OpenMP、AVX512的速学，硬件基础知识如内存和CPU的讲解，以及重点解析了shufflenetv2模型的推理解析，包括模型加载、输入处理、推理计算和结果输出。文章还提到了网络推理的整体流程，强调了模型参数和权重文件的加载，以及在处理输出结果时需要进行softmax操作的重要性。
一，依赖库知识速学
aarch64
aarch64，也被称为 ARM64，是一种基于 ARMv8-A 架构的 64 位指令集体系结构。它是 ARM 体系结构的最新版本，旨在提供更好的性能和能效比。与先前的 32 位 ARM 架构相比，aarch64 具有更大的寻址空间、更多的寄存器和更好的浮点性能。
在 Linux 系统终端下输入以下命令，查看 cpu 架构。
uname -m # 我的英特尔服务器输出 x86_64，m1 pro 苹果电脑输出 arm64
OpenMP
OpenMP（Open Multi-Processing）是一种基于共享内存的并行编程 API，用于编写多线程并行程序。使用 OpenMP，程序员可以通过在程序中插入指令来指示程序中的并行性。这些指令是以 #pragma 开头的编译指示符，告诉编译器如何并行化代码。
#include 
订阅专栏 解锁全文
857
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
