苦逼打工人Ubuntu服务器没有可视化界面,而且服务器用的是Ubuntu19,官网好像只支持18,20的安装,没办法为了量化这些模型只好cmake编译了。
git clone https://github.com/openvinotoolkit/openvino.git
cd openvino
解压后的结构目录
有的包需要我们去github下载但是公司的机子不能科学上网但是Openvino官方提供了人性的gitee安装的脚本。进入Openvino的目录之后
chmod +x scripts/submodule_update_with_gitee.sh
./scripts/submodule_update_with_gitee.sh
然后安装外部依赖
chmod +x install_build_dependencies.sh
sudo ./install_build_dependencies.sh
然后可以开始狗蛋的cmake编译了,先用这个试试水
cmake -DCMAKE_BUILD_TYPE=Release ..
make --jobs=$(nproc --all)
我中间报了一些黄的的警告我没有管他之后
(python版的openvino好像可以直接pip 安装runtime或者dev包括了onnx转ir的mo_onnx,但是如果要做int8量化的话最好还是编译一下)(记得换成你的python版本)
#根据自己实际需要我这里需要用到python版本的openvino我才安装的
#如果需要的话可以指定一下位置
cmake -DCMAKE_BUILD_TYPE=Release -DNGRAPH_DEBUG_ENABLE=ON \
-DENABLE_PYTHON=ON \
-DPYTHON_EXECUTABLE=/usr/bin/python3.7 \
-DPYTHON_LIBRARY=/usr/lib/x86_64-linux-gnu/libpython3.7m.so \
-DPYTHON_INCLUDE_DIR=/usr/include/python3.7 ..
没有报错就好,然后开始编译库
我编译的过程很顺利没有出现什么其他的错误,编译完以后直接
sudo make install
之后就可以快乐的使用Openvino啦
(经过我测试,我发现如果有python使用需求的小伙伴们可以直接从官网pip下载OpenVino里面的东西有mo.py的转换还有int8模型量化的代码)
最近还是int8试试水,之后如果可以出一期Openvino量化的教程。