MNN是一个轻量级的深度神经网络引擎,支持深度学习的推理与训练。适用于服务器/个人电脑/手机/嵌入式各类设备。目前,MNN已经在阿里巴巴的手机淘宝、手机天猫、优酷等30多个App中使用,覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。
现在这时候的MNN,环境要求和编译情况如下:
-
环境要求
cmake >= 3.10
gcc >= 4.9
-
相关编译选项
MNN_ONEDNN 是否使用oneDNN库来加速卷积运算 MNN_AVX512 是否使用AVX512指令,需要gcc9以上版本编译 MNN_OPENCL 是否使用OpenCL后端,针对GPU设备 MNN_VULKAN 是否使用Vulkan后端,针对GPU设备 MNN_CUDA 是否使用CUDA后端,针对Nivida GPU设备 MNN_TENSORRT 是否使用TensorRT后端,针对Nivida GPU设备
-
具体步骤
-
准备工作 (可选,修改 MNN Schema 后需要)
cd /path/to/MNN ./schema/generate.sh ./tools/script/get_model.sh # 可选,模型仅demo工程需要
-
本地编译
mkdir build && cd build && cmake .. && make -j8
-
小伙伴们,可以试试上面这种方式!!!(等源码没问题了)
由于现在的MNN源码有问题,运行./schema/generate.sh时,报错:-bash: ./generate.sh: cannot execute: required file not found,这是因为源码中3rd_party/flatbuffers/下缺少tmp文件夹。
所以选了一个低版本的MNN进行编译,低版本的MNN,有的需要依赖protobuf库,见文档:转换工具Linux / macOS编译 (yuque.com)
我这里下载的是MNN-2.5.0.zip,不管依不依赖protobuf,我都先编译了protobuf,再编译的MNN
对于不依赖protobuf的MNN,可直接看编译MNN,跳过protobuf的编译!!!在MNN的3rd_party/protobuf/下有文件,说明此版本的MNN不依赖于protobuf
MNN下载地址:https://github.com/alibaba/MNN/tree/master
protobuf下载地址:GitHub - protocolbuffers/protobuf: Protocol Buffers - Google's data interchange format
一 编译protobuf
1 git protobuf 源码
git clone https://github.com/google/protobuf.git
2 编译protobuf
cd protobuf
git submodule update --init --recursive //这个操作会下载依赖的第三方子模块,一般会下载失败,所有提前在电脑中下载好,再放到protobuf/third_party下
bazel build :protoc :protobuf
!!!有问题的往下走!!!
3 下载protobuf的依赖库
git clone https://github.com/google/benchmark.git
git clone https://github.com/google/googletest.git
git clone https://github.com/abseil/abseil-cpp.git
git clone https://github.com/open-source-parsers/jsoncpp.git
4 将依赖库放到protobuf/third_party下,并要保证文件名一致
5 再次执行 git submodule update --init --recursive
6 报错如下:
fatal: Unable to checkout '4a2c63365eff8823a5221db86ef490e828306f9d' in submodule path 'third_party/abseil-cpp'
fatal: Unable to checkout '4c9a3bb62bf3ba1f1010bf96f9c8ed767b363774' in submodule path 'third_party/googletest'
解决办法:
1. 进入报错的子模块目录,重置
如:cd third_party/abseil-cpp,cd third_party/googletest
2. 检出确认
git checkout master // googletest模块 为 main 不是 master
3. 返回主仓库目录,查看状态,提示子仓库有修改,一般commit号不对应
git status
4. 更新子模块,匹配commit
git submodule update
5. 确认
git status
再次执行 git submodule update --init --recursive,输出如下,说明OK了
Submodule path 'third_party/abseil-cpp': checked out '4a2c63365eff8823a5221db86ef490e828306f9d'
Submodule path 'third_party/googletest': checked out '4c9a3bb62bf3ba1f1010bf96f9c8ed767b363774'
7 编译,编译需要安装bazel库
bazel build :protoc :protobuf
安装bazel库,参考文档:
在Ubuntu上安装Bazel · Bazel (gitbooks.io)
Ubuntu Linux 安装 Bazel 4.2.1_ubuntu bazelisk-CSDN博客
由于本人未安装成功,所以放弃以上的编译过程,继续下面的编译
1 切换至低版本的protobuf,下载的21.9版本(2022-10-27)
https://github.com/protocolbuffers/protobuf/releases?page=5
2 protobuf-21.9/third_party下有googletest,不需要额外下载googletest
3 执行:
// make方式
cd protobuf-21.9/
./autogen.sh
./configure --prefix=/usr/local/protobuf
make
sudo make install
sudo ldconfig // 刷新共享库,很重要的一步
// cmake方式
cd protobuf-21.9/cmake
cmake . -Dprotobuf_BUILD_TESTS=OFF -DCMAKE_INSTALL_PREFIX=/usr/local
cmake --build . (或者使用make)
sudo make install
//make install DESTDIR=安装目录(也可以在第一步中通过-DCMAKE_INSTALL_PREFIX来设置安装目录)
5 检查安装是否成功
protoc --version
6 添加环境变量
sudo vi /etc/profile
// 添加
export PATH=$PATH:/usr/local/protobuf/bin/
export PKG_CONFIG_PATH=/usr/local/protobuf/lib/pkgconfig/
// 然后,刷新环境变量
source /etc/profile
// 看情况按照上述方式修改~/.profile。
// 配置动态链接库路径
sudo vi /etc/ld.so.conf
// 添加
/usr/local/protobuf/lib
至此,protobuf安装完成!
二 编译MNN
上面说了我使用的是MNN-2.5.0.zip,此版本不依赖于protobuf
解压MNN-2.5.0.zip,进入MNN-2.5.0文件夹,执行以下命令进行编译:
cd schema && ./generate.sh
cd ..
mkdir build && cd build
cmake -DMNN_BUILD_DEMO=ON -DMNN_BUILD_CONVERTER=true ..
make -j8
安装完成, 查看 版本
./MNNConvert --version
至此编译完成!!!
编译生成的文件都放在build文件夹下,使用时,如:cmake,只需在CMakelists.txt中添加以下命令即可
// 切换为你自己的路径
include_directories(/home/hg/MNN-2.5.0/include)
link_directories(/home/hg/MNN-2.5.0/build/)
target_link_libraries(*** libMNN.so)