OpenVINO——2. OpenVINO Model Downloader

已于 2022-05-09 21:03:06 修改
阅读量2.3k 收藏 12
点赞数 2
分类专栏： # OpenVINO 意外接触的一些知识 文章标签： openvino pytorch python
于 2020-11-05 10:38:25 首次发布
本文为博主原创文章，未经博主允许不得转载。
本文链接：https://blog.csdn.net/Castlehe/article/details/109493484
版权

文章目录

1 安装和介绍

说明文档：https://github.com/openvinotoolkit/open_model_zoo/blob/master/tools/downloader/README.md
文件位置及目录详情：
在这里插入图片描述

该目录包含脚本，这些脚本根据模型目录中的配置文件自动执行某些与模型相关的任务。

downloader.py（模型下载器）从在线资源下载模型文件，并在必要时对其进行修补，以使它们在Model Optimizer中更可用；

converter.py（模型转换器）使用模型优化器将非推理引擎IR格式的模型转换为该格式。

Quantizer.py（模型量化器）使用训练后优化工具包Post-Training Optimization Toolkit（）将IR格式的全精度模型量化为低精度版本。

info_dumper.py（模型信息转储器）以稳定的机器可读格式打印有关模型的信息。

请使用这些工具，而不是尝试直接解析配置文件。 它们的格式未记录，在将来的版本中可能会以不兼容的方式被修改。

根据OpenVINO 模型测试-模型从下载到转换到推理，其实一般只需要执行模型下载和模型转换两个步骤，模型量化和信息转储这两个步骤不是很常用。

要求

  • Python3.5.2+
  • 使用以下命令安装model downloader tools的依赖
python3 -mpip install --user -r ./requirements.in
注意：
在我的windows环境下，python3是无法识别的命令，要换成
python -mpip install --user -r ./requirements.in

一般上面的安装步骤正确的话，这里需要的包应该都是已经安装过的，requirement already satisfied。

注意：考虑到模型转换，也是需要安装用于模型优化器的OpenVINO toolkit工具以及相关的依赖库。参考Openvino toolkit document

如果使用来自Pytorch或者Caffe2框架的模型，那么也需要使用中间转换变为ONNX格式。可以安装额外的依赖来使用自动转换，如下

pytorch
python3 -mpip install --user -r ./requirements-pytorch.in
caffe
python3 -mpip install --user -r ./requirements-caffe2.in

如果在macos的python3.5.x环境上使用模型下载器，可能会报以下错误：
python3 -mpip install --user -r ./requirements-caffe2.in
这个问题可以通过执行以下命令解决：(或者直接升级到python3.6及以后)

python3 -mpip install --user 'requests[security]'

1.1 模型下载（downloader）器用法

  • --all基本使用：(--all参数表示直接下载所有的模型，如果只想下载所有模型的子集，可以去看 Shared options这部分)
./downloader.py --all
  • -o/--output_dir：(默认情况下，下载的模型会放到当前目录下，可以使用这个参数放到别的目录)
./downloader.py --all --output_dir my/download/directory
  • --precisions 可以使用这个参数明确下载模型的权重文件的数据精度（小数点后几位）
./downloader.py --name face-detection-retail-0004 --precisions FP16,FP16-INT8
  • --num_attempts默认情况下，脚本只会尝试下载每个文件一次，如果想要改变尝试下载的次数来增加脚本的鲁棒性可以使用这个参数去修改尝试下载的次数。
./downloader.py --all --num_attempts 5 # attempt each download five times
  • --cache-dir可以使用这个参数来明确规定脚本所使用的缓存目录，会把每个下载文件的一个副本放在缓存文件中，这样如果文件已经下载过，存在于缓存中，就会从缓存中读取而不是重新下载。（cache文件的格式和Open Model Zoo以后的版本都是兼容的，所以可以使用一个确定的缓存目录，避免以后重新下载）
./downloader.py --all --cache_dir my/cache/directory
  • --progress_format默认情况下，脚本输出信息是非结构化的，如果想要让脚本输出的程序信息看起来更清晰，可以使用这个参数
./downloader.py --all --progress_format=json

当被设置为json格式时，脚本的标准输出就变为一个机器可读的进度报告，这一个格式的具体说明在json progress report format部分，这个选项不会影响错误和警告信息，错误和警告信息仍然会以人类可读的格式打印到标准错误流中。
也可以设置为text格式显式的表明使用默认的文本格式

  • -j/--jobs:这个参数可以让脚本同时下载多个模型
./downloader.py --all -j8 # download up to 8 models at a time

其余还有一些是共享选项，这几个文件都有的，参考共享选项部分

1.2 模型转换(converter)用法

  • --all:会把所有模型转换为推理引擎可识别的IR模式。原始格式的模型会被忽略，Pytorch和Caffe2格式的模型将会被首先转换为ONNX格式。如果只需要转换一部分模型，可以使用其他过滤参数替换--all。
./converter.py --all
  • -d/--download_dir如果想要改变下载目录，用这个参数（默认情况下：要确保当前目录是模型下载器下载模型文件所在的根目录）
./converter.py --all --download_dir my/download/directory
  • -o/--output_dir 默认情况下，转换后的模型会放在下载目录，可以使用这个参数放到别的目录去
./converter.py --all --output_dir my/output/directory

中间格式的模型也会被放在这个目录

  • --precisions默认情况下，脚本会产生所有转换支持的精度的模型，如果只想生成特定精度的一种模型，使用这个参数
./converter.py --all --precisions=FP16

如果某个模型不支持这个特定的精度，那么这个模型就会被忽略

  • --mo脚本会尝试根据OpenVINO toolkit的setupvars.sh/setupvars.bat脚本中设置的环境变量去寻找模型优化器，可以使用这个参数来修改模型优化器的搜索位置
./converter.py --all --mo my/openvino/path/model_optimizer/mo.py
  • --add_mo_arg使用这个参数，可以为模型配置的特定模型添加额外的模型优化器参数，这个选项可以重复使用多次来添加不同的参数
./converter.py --name=caffenet --add_mo_arg=--reverse_input_channels --add_mo_arg=--silent
  • -p/--python默认情况下，脚本使用运行这个脚本本身的python执行器来运行模型优化器，如果想使用不同的python执行器，使用这个选项。
./converter.py --all --python my/python
  • -j/--jobs 脚本可以同时执行多个转换命令，使用这个选项。
./converter.py --all -j8 # run up to 8 commands at a time

这里这个选项的参数要么是 同时执行命令的最大数量，要么是 auto，如果是auto，则就是系统CPUs的个数。默认情况下，所有的命令都是顺序执行的

  • --dry_run脚本可以在不进行运行的情况下打印出转换命令
./converter.py --all --dry_run

1.3 模型量化器（quantizer）用法

在运行模型量化器之前，必须准备一个量化过程中需要使用的数据集文件夹。在下面的内容中，这个文件夹/目录表示为 <DATASET_DIR>，可以在 Dataset Preparation Guide这个页面找到关于如何准备数据的详细说明信息。

这个脚本的基础用法如下

  • --all 这个选项会量化所有支持的模型，不支持的就会被忽略
./quantizer.py --all --dataset_dir <DATASET_DIR>

也可以使用其他选项来只量化一部分模型，参考 共享选项 部分

  • --model_dir脚本执行的当前目录必须是模型转换器创建的模型文件的根目录，想要改变，就用这个选项
./quantizer.py --all --dataset_dir <DATASET_DIR> --model_dir my/model/directory
  • -o/--output_dir 默认情况下，量化过的模型会被存储在相同的模型目录下，可以使用这个选项修改保存位置
./quantizer.py --all --dataset_dir <DATASET_DIR> --output_dir my/output/directory
  • --precisions默认情况下，脚本会产生模型所支持的所有精度的量化结果，如果只想生成特定精度的模型，可以使用这个选项
./quantizer.py --all --dataset_dir <DATASET_DIR> --precisions=FP16-INT8
  • --pot脚本会尝试根据OpenVINO toolkit的setupvars.sh/setupvars.bat脚本中设置的环境变量去寻找Post-Training Optimization Toolkit，可以使用这个参数来修改搜索位置
./quantizer.py --all --dataset_dir <DATASET_DIR> --pot my/openvino/path/post_training_optimization_toolkit/main.py
  • -p/--python默认情况下，脚本会使用运行这个脚本的python执行器去运行Post-Training Optimization Toolkit，如果想使用不同的python执行器，可以使用这个选项。
./quantizer.py --all --dataset_dir <DATASET_DIR> --python my/python
  • --target_device支持为Post-Training Optimization Toolkit指定要为之优化的目标设备，使用这个选项。
./quantizer.py --all --dataset_dir <DATASET_DIR> --target_device VPU

支持的设备名称是由Post-Training Optimization Toolkit配置文件中的 target_device 。如果没有明确这个选项，就会采用默认的配置

  • --dry_run这个脚本可以不经运行就打印出量化命令的信息
./quantizer.py --all --dataset_dir <DATASET_DIR> --dry_run

指定此选项后，仍将创建Post-Training Optimization Toolkit的配置文件，以便您可以检查它。有关脚本接受的其他选项的信息，请参阅“共享选项”部分。

1.4 模型信息转储器（dumper）

这个脚本的基本用法：

  • all打印出所有模型的标准输出信息（ standard output information）
./info_dumper.py --all

此外，脚本接受的选项就是Share options部分的选项。
脚本的输出是一个json数组，其中每个元素都是一个描述单个模型的json对象，每个这样的对象包含以下键值：

  • name模型的标识符，从选项 --name获取
  • description模型的文本描述，段落之间由换行符分割
  • framework用来表示模型是从哪里（哪种框架）下载的字符串，当前支持的值有：dldt (Inference Engine IR), caffe, caffe2, mxnet, onnx, pytorch 以及tf (TensorFlow)。其他的值可能以后会添加。
  • license_url发布模型所依据的许可的URL
  • precisions模型可以转为IR文件所支持的精度列表。对于下载的非IR格式的模型，这些是模型可以转换为IR文件所支持的精度，目前支持的值有：
    • FP16
    • FP16-INT1
    • FP16-INT8
    • FP32
    • FP32-INT1
    • FP32-INT8
      其他的值未来可能会支持吧
  • subdirectory输出内容的子目录，下载或者转换的文件会被放到这里。
  • task_type用于定义模型所执行的任务类型的字符串，目前可能的值有：
    • action_recognition, classification, detection, face_recognition, feature_extraction, head_pose_estimation, human_pose_estimation image_inpainting, image_processing, instance_segmentation, machine_translation, monocular_depth_estimation, object_attributes, optical_character_recognition, question_answering, semantic_segmentation, sound_classification, speech_recognition, style_transfer, token_recognition

1.5 Shared options 共享选项

有些选项是所有脚本都支持的

  • -h/--help用于打印帮助信息
./TOOL.py --help

有几个互斥的过滤选项可以用于选择脚本要处理的模型

  • --all选择所有模型
./TOOL.py --all
  • --name 接受一个逗号分隔的模式列表，选择的模型至少要满足其中一个模式，模式可以包含shell风格的通配符。（可以直接写模型的名称）
./TOOL.py --name 'mtcnn-p,densenet-*'
  • --list接受一个指向包含模式列表的文件的路径，同样也是选择至少满足一个模式的模型
./TOOL.py --list my.lst

注意：这个文件必须是每行一个模式，模式语法和--name选项的相同，空行和#开头的注释会被忽略

  • all
mtcnn-p
densenet-* # get all DenseNet variants

如果想看一下可用的模型，可以使用--print_all选项，使用这个选项后，脚本会打印出配置文件中定义的所有模型名称并退出。

$ ./TOOL.py --print_all
action-recognition-0001-decoder
action-recognition-0001-encoder
age-gender-recognition-retail-0013
driver-action-recognition-adas-0002-decoder
driver-action-recognition-adas-0002-encoder
emotions-recognition-retail-0003
face-detection-adas-0001
face-detection-retail-0004
face-detection-retail-0005
[...]

上述这些互斥的过滤选项和--print_all至少要有一项。

吨吨不打野
关注
  • 2
    点赞
  • 踩
  • 12
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
【openVINO】Model Zoo预训练模型下载及编译博文对应VS工程
06-06
【openVINO】Model Zoo预训练模型下载及编译博文对应VS工程
【openVINO】Model Zoo预训练模型下载及编译
种一棵树最好的时间是十年前，其次是现在
06-03 1909
(1)下载open_model_zoo，在github上下载预训练模型： open_model_zoo (2)运行模型下载工具，下载预训练模型： 下载全部模型，不推荐，空间很大： 下载指定预训练模型： 以人体姿势预测模型为例： 说明： 下载后文件样式为： （3）使用相关demo： 找到相关demo： D:\open_model_zoo-master\demos\human_pose_estimation_demo 将主文件加入VS工程，按DEMO引用的头文件补充进VS的附加包含目录： 生成程序，提示缺少g
OpenVINO——配置与道路分割案例
风翼冰舟的博客
08-17 1475
前言 最近看到了一个深度学习库OpenVINO，专门用于Intel硬件上部署深度学习模型，其内置了非常非常多使用的预训练模型，比如道路分割、人脸提取、3D姿态估计等等。但是配置和调用有点小恶心，这里以道路分割为例，展示如何配置OpenVINO的环境，以及模型下载和调用 国际惯例，参考博客： OpenVINO提供的所有预训练模型列表 OpenVINO的物体分割文档 OpenVino (二） Win10 python配置 配置 需要注册一个账号下载OpenVINO，按照官网给出的win10安装方法 一直各种下一
OpenVINO——3. OpenVINO文字识别OCR运行demo
Castlehe的博客
11-25 3022
1. 简介 搜索了一波关于openVINO的使用，竟然也有很多资料，看来是自己不关注这方面，井底之蛙了。 这里有个问题，按照上面安装步骤安装的仅仅是OpenVINO，但是查看OpenvinoTooklit，其实这个openvino仅仅是这个项目的一个子项目。 Github主页-openvinotoolkit 其中，Openvino提供的一些模型都在open_model_zoo中，可以直接 git clone https://github.com/openvinotoolkit/open_model_zoo
OpenVino学习2 --- Demo篇
P_B_Y的博客
05-02 1000
deployment_tools开发套件中自带 demo 相关解析 C:\Intel\openvino_2021.3.394\deployment_tools\demo 1、demo_benchmark_app.bat 功能： 测试不同 AI 加速硬件的运行时间（Duration）、延时（Latency）、吞吐量（Throughput） 命令： demo_benchmark_app.bat -d CPU 输出： demo_benchmark_app.bat -d GPU 2、demo_sec
MACE 使用笔记
u011279649的专栏
12-21 1856
环境安装 tensorflow 安装，一直不太想要mace的部分原因是不支持tensorflow2.模型。 Shell set -e 学习笔记： shell 中的 set -e ， set +e 用法_滴水成川-CSDN博客_linux set-eset-eset命令的-e参数，linux自带的说明如下："Exitimmediatelyifasimplecommandexitswithanon-zerostatus."也就是说，在"set-e"之后出现的代码，一旦出现了返回值...
No module named 'converter' tgrocery & TextGrocery Python 3.x WINDOWS下安装出现错误
Mango_Holi的博客
08-01 1031
本文部分内容引自：https://blog.csdn.net/weixin_40592798/article/details/89416573 由于上述链接的作者用的是ubuntu系统，并且有些处理方式可用更简单的方法代替。 因此，本篇文章为 python > 3.x 在 windows 环境下的补充、修正和参考。 https://github.com/cosmichut/TextGr...
OpenViNO模型下载ubuntu20.04
马上毕业的小菜菜
03-24 251
关于OpenViNO模型下载ubuntu20.04下载，首先肯定得装好OpenViNO，我装的是openvino_2021.4.752的版本。如果安装成功了就可以进行下载官方的模型了，怎么看官方有哪些模型呢。然后进入到下载的文件夹。首先进到这个文件夹下。
【Notebook系列第七期】OpenVINO预训练模型的的下载和使用方法
英特尔边缘计算社区
07-15 5737
当benchmark_app运行完成后，我们会获取到一些精度表现，上面主要是部分log信息，比如运行的stream情况，stream是指模型是将几个CPU的core去执行的，然后模型的一些input的信息，我们是用一些随机的值去作为我们的模型的输入进行载入的，它的首次推理时间是在7.55毫秒，迭代了3000多轮，用时15毫秒，也是我们刚才预定义的。此外在BenchmarkTool中，我们预置了丰富的硬件和软件方面的配置参数，大家可以调整不同的配置参数，来找到最合适自己的应用的配置方式和配置模式。...
OpenVINO + HDDL 边缘计算领域上手实验
03-14
python3 downloader.py --name googlenet-v3 -o ~/hddl_workshop/models/ python3 /opt/intel/computer_vision_sdk/deployment_tools/model_optimizer/mo.py --framework tf --data_type FP16 --reverse_input_channels --input_shape [1,299,299,3] --input input –m ean_values input[127.5,127.5,127.5] --scale_values input[127.50000414375013] --output InceptionV3/Predictions/Softmax --input_model googlenet-v3.frozen.pb
convert.py
06-28
yolov3 github源码中自带的把~我再上传一遍也没毛病，放这里存一下，免得忘了............
M3U8 Downloader.rar
05-10
M3U8-Downloader 是一款专门用来下载 M3U8 格式的在线视频的工具，并且还附带有其他一些实用工具。 只需要输入 m3u8 地址，选择需要的视频格式，比如 mp4，再选择下载路径，然后点击下载，M3U8-Downloader 就会帮你...
V1.0.0.16Downloader-2.exe
10-27
V1.0.0.16Downloader-2.exe
APK Downloader-1.2.1.zip
12-27
名称：APK Downloader ---------------------------------------- 版本：1.2.1 作者：https://apkcombo.com/ 分类：开发者工具 ---------------------------------------- 概述：在线从Google Play 下载APK & OBB...
Universal Maps Downloader 9.x Keygen
04-14
Universal Maps Downloader是一款可以从Google Maps，Yahoo Maps，Microsoft Maps上下载卫星地图的工具。所有下载的地图保存在硬盘上。你可以使用它提供的工具进行浏览或者合并成一个BMP图像。可以根据用户设定的...
OpenVINO Python API 推理YOLOv5模型实现方法
lujx_1024的博客
08-12 2918
本文档主要描述`python`平台，使用`openvino`模块推理`YOLOv5`导出`IR`模型的方法。 文档主要包含以下内容： - `openvino`模块的安装 - 模型格式的说明 - openvino的基础API接口，包括`初始化`，`模型加载`，`模型参数获取`，`模型推理`等 - 图片数据的预处理 - 推理结果后处理，包括`NMS`,`cxcywh`坐标转换为`xyxy`坐标等 - 关键方法的调用与参数说明 - 完整的示例代码
pytest学习-pytorch单元测试
最新发布
Hi20240217的博客
04-17 582
希望测试pytorch各种算子、block、网络等在不同硬件平台,不同软件版本下的计算误差、耗时、内存占用等指标.本文基于torch.testing._internal。
PyTorch小技巧：使用Hook可视化网络层激活（各层输出）
deephub
04-17 3497
通过可视化不同的层，可以评估早期层是否捕获边缘和纹理等基本特征，而较深的层是否捕获更复杂的特征。利用 PyTorch 钩子函数来可视化网络中的激活是一种很好的方式，尤其是想要理解不同层如何响应不同输入的情况下。在这个过程中，我们可以捕捉到网络各层的输出，并将其可视化以获得直观的理解。可视化激活，即模型内各层的输出，对于理解深度神经网络如何处理视觉信息至关重要，这有助于诊断模型行为并激发改进。然后我们加载一个预训练的ResNet模型，并在特定的层上设置钩子函数，以在向前传递期间捕获激活。
webview plus.downloader.createdownload
05-10
webview plus.downloader.createdownload是一个基于H5+开发平台的API，用于在移动端应用开发中实现文件下载功能。通过该API，应用可以在WebView组件中启动下载任务，并根据用户的下载请求，将指定的文件下载到本地存储设备或SD卡中，以方便用户离线使用。 在具体应用中，webview plus.downloader.createdownload API主要通过如下步骤实现： 1.调用plus.downloader.createDownload()方法，创建下载任务： var dtask = plus.downloader.createDownload(“http://www.example.com/file.zip”, {filename: “download/file.zip”}); 通过该方法创建一个下载任务，指定下载文件的URL地址和存储位置。其中，filename参数表示指定下载文件的存储路径及文件名，可指定存储在本地存储设备或SD卡中。 2.调用dtask.start()方法，开始下载任务: dtask.start(); 通过该方法启动下载任务，并管理下载状态及进度等信息。在实际应用中，可以通过监听dtask对象的状态及进度事件，实时了解下载进度、状态及结果等信息。 3. 监听下载状态及进度事件： dtask.addEventListener(“statechanged”, function(task, status) { if(task.state == 4 && status == 200) { console.log(“Download success:” + task.filename); } }); 通过调用dtask对象的addEventListener()方法，监听下载状态及进度事件。每当下载状态或进度发生改变时，事件处理程序将被调用，并根据下载状态及结果，执行相应的操作。 总之，webview plus.downloader.createdownload API是一个非常实用的移动应用开发工具，可使应用开发者方便快捷地实现文件下载功能，提高应用的用户体验和功能扩展能力。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

吨吨不打野

解决了问题，觉得还行就给点

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值