onnx-modifier：ONNX可视化编辑

已于 2022-06-20 11:50:39 修改
阅读量6k 收藏 45
点赞数 9
文章标签： 人工智能
于 2022-05-03 14:13:27 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40561065/article/details/124554570
版权

请添加图片描述
欢迎转载。转载请注明原文链接。

本文可能未及时更新，请点击onnx-modifier github仓库查看最新版本和特性。

ONNX(Open Neural Network Exchange) 是一种针对机器学习所设计的开放式的文件格式，经常作为不同框架模型转化的中间文件。有时我们拿到ONNX文件，想将它进行一些修改，比如：

  • 删除部分节点。 比如，ONNX文件中一些前后处理的算子节点，以方便后续部署。
  • 修改节点输入输出名。 比如修改某一节点的输入输出名称，更改模型拓扑结构。
  • 编辑节点属性值。
  • 增加新节点。

目前常用的方法是，先可视化模型图结构，然后基于ONNX的Python API编写脚本，对模型图结构进行编辑。但这可能需要我们在可视化-脚本-可视化-…之间反复横跳。而且在一张庞大的图上搜集想要修改的节点，也比较繁琐耗时。👋

能不能有一个工具，可以实时预览编辑后的可视化效果，从而更方便，快捷，直观地实现ONNX模型的编辑呢？🚀 这便是onnx-modifier (github)开发的动机。所有的编辑信息将最终汇总，统一送由ONNX Python API处理，得到编辑后的ONNX模型文件。

目前已支持下列操作：

  • 删除/恢复节点
    • 删除单个节点
    • 删除一个节点及所有以该节点为根节点的子节点
    • 恢复误删的节点
  • 修改节点输入输出名
  • 编辑节点属性值
  • 增加新节点（beta）

onnx-modifier基于流行的模型可视化工具 Netron 和轻量级Web应用框架 flask 开发。希望它能给社区带来一些贡献~

安装与运行

  • 拉取onnx-modifier，安装所需要的Python库

    git clone git@github.com:ZhangGe6/onnx-modifier.git
cd onnx-modifier

pip install onnx
pip install flask

  • 运行

    python app.py

    点击输出中的url（如http://127.0.0.1:5000/），即可在浏览器中进入onnx-modifier界面。点击Open Model...，上传所需要编辑的模型文件，上传完毕后，网络可视化结构会自动显示。

用法

图结构层级的操作按钮放置在可视化页面的左上角，目前有四个：Refresh，Reset，Download和Add node. 它们的功能分别为：

  • Refresh：刷新界面，预览当前编辑得到的模型图结构；

    在当前版本里，模型图结构会在每次编辑操作后即时自动更新，无需手动刷新。所以该按钮用到的次数会比之前的版本里少上不少（解放双手🙌）。

  • Reset：重置模型图结构为导入时的初始状态；

  • Download：保存编辑后的模型文件到本地。

  • Add node：向当前模型中，添加新节点。

节点层级的操作都在节点侧边栏里，点击某一节点后即可弹出。

一起来详细康康。

删除/恢复节点

删除节点有两种模式：Delete With Children 和 Delete Single Node. 后者只删除当前单个节点；而前者还会自动删除以这个节点为根节点的所有子节点，当我们需要删除一长串节点时，这个功能会比较有用。

Delete With Children基于回溯算法实现。

执行删除操作后，被删除的节点首先会变灰显示，以供预览。如果某一个节点被误删了，在该节点的侧边栏点击Recover Node即可以将其恢复到图中。预览确认删除操作无误后，点击Enter，图结构会刷新，显示节点删除后的状态。

一个典型的删除操作如下图所示：请添加图片描述

修改节点输入输出名

通过修改节点的输出输出名，我们可以对模型拓扑结构进行修改（如删除一些预处理/后处理节点）。该功能同样可以用在更改模型的输出的名称（即修改模型叶子节点的输出名）。

那在onnx-modifer中要怎么做呢？很简单，找到节点侧边栏的输入输出对应的输入框，键入新的名称就可以啦。图结构会根据键入的名称即时自动刷新。

举个栗子，在下图所示的模型中，我们想要删除预处理对应的节点（Sub->Mul->Sub->Transpose），可以这样做：

  1. 点击第一个Conv节点，在弹出的属性栏中，将输入名称改为serving_default_input:0 (data_0节点的输出名)；
  2. 图结构自动刷新，可以发现，输入节点已经和第一个Conv节点直接相连，几个预处理节点也已经从前向图中分离出来，将它们删除；
  3. 完工（点击Download就可以获得编辑后的ONNX模型啦）。

如果我们希望通过修改，让节点 A A A（比如上例中的data_0节点）连向节点 B B B（比如上例中的第一个Conv节点），建议的方式是：将节点 B B B的输入名称修改为节点 A A A的输出名称，而不是把 A A A的输出名称修改为节点 B B B的输入名称。 因为节点 B B B的输入名称可能同时为其他节点（比如上例中的Transpose节点）的输出名称，会导致一些预料外的结果。

上例的修改过程如下图所示：
请添加图片描述

编辑节点属性值

在节点侧边栏对应的属性值输入框中，键入新的属性值即可。

点击属性值输入框右侧的+，可显示该属性的参考信息。
请添加图片描述

增加新节点（beta）

有时候我们希望向模型中添加新节点。onnx-modifier已开始支持该功能。

在主页面的左上方，有一个Add node按钮和一个selector选择器，我们可以通过这二者的配合，完成节点的添加，只需3步：

  1. 在selector中选择要添加的节点类型，在点击Add node按钮后，一个对应类型的新节点将自动出现在图上。

    selector中包含来自ai.onnx(171), ai.onnx.preview.training(4), ai.onnx.ml(18) 和 com.microsoft(1)的所有节点类型。

  2. 点击这个新节点，在弹出的侧边栏中进行节点的编辑：

    • 节点属性：初始化为null （显示为undefined）。同上节，在对应的属性框中输入新值即可。
    • 修改节点输入输出名。输入输出名决定了节点将插入在图结构中的位置。

  3. 完工（点击Download即可获得编辑后的ONNX模型）。
    请添加图片描述

以下是该功能的一些提醒和小tip：

  1. 在当前版本中，是不支持添加含有参数的节点的（比如Conv, BatchNormalization）。其他大多数节点，在我的测试中，可正确添加（比如Flatten, ArgMax, Concat）。
  2. 点击selector，输入要添加的节点的首字母（比如Flatten的f），可帮我们定位到以该字母开头的节点列表区域，加快检索速度。
  3. 点击节点侧边栏的NODE PROPERTIES的type框右侧的?，和节点属性框右侧的+，可以显示关于当前节点类型/属性值的参考信息。
  4. 为确保正确性，节点的各属性值建议全部填写（而不是留着undefined）。默认值在当前版本可能支持得还不够好。
  5. 如果一个属性值是列表类型，则各元素之间使用‘,’分隔。
  6. 在当前版本中，如果一个节点的输入/输出是一个列表类型（如Concat），限制最多显示8个。如果一个节点实际输入/输出小于8个，则填写对应数目的输入输出即可，多出来的应以list_custom开头，它们会在后续处理中自动被忽略。
  7. 这个功能还处在开发中，可能会不够鲁棒。所以如果大家在实际使用时碰到问题，非常欢迎提issue!

onnx-modifer正在活跃地更新中🛠。 欢迎使用，提issue，如果有帮助的话，感谢给个⭐️~

示例模型文件

为方便测试，以下提供一些典型的样例模型文件，主要来自于onnx model zoo

参考资料

歌你一下
关注
  • 9
    点赞
  • 踩
  • 45
    收藏
    觉得还不错? 一键收藏
  • 8
    评论
MATLAB算法实战应用案例精讲-【自动驾驶】SAE分级
qq_36130719的博客
06-11 1262
谈到自动驾驶就绕不开SAE(SAE International，Society of Automotive Engineers国际自动机工程师学会，原译为美国汽车工程师学会)的自动驾驶分级，该分级将自动驾驶分为了可明显区分的六个级别。SAE是当今汽车以及航空行业的顶级标准制定组织。随着汽车行业自动化系统技术的不断提升，为了更加正确的引导自动驾驶汽车行业的发展，SAE对参照标准进行了多次更新。每一项技术都有着相应的规范和标准。
onnx-modifier
11-20
可以实时预览编辑后的可视化效果，从而更方便，快捷，直观地实现ONNX模型的编辑呢？这便是onnx-modifier (github)开发的动机。所有的编辑信息将最终汇总，统一送由ONNX Python API处理，得到编辑后的ONNX模型文件。 目前已支持下列操作： 1、删除/恢复节点 2、增加新节点 3、修改节点输入输出名 4、修改模型输入输出名 5、增加模型输出节点 6、修改节点属性值 7、修改模型batch size 8、修改模型initializers 点击输出中的url（默认为http://127.0.0.1:5000/），即可在浏览器中进入onnx-modifier界面。点击Open Model...，上传所需要编辑的模型文件，上传完毕后，网络可视化结构会自动显示。
onnx-modifier使用
栋哥修炼日记
11-26 828
参考资料：https://blog.csdn.net/weixin_40561065/article/details/124554570?onnx-modifier基于流行的模型可视化工具 Netron 和轻量级Web应用框架 flask 开发。希望它能给社区带来一些贡献。修改节点输入输出名。
模型部署：ONNX可视化与编辑工具
博学而笃志，切问而近思。
02-27 2415
模型部署：ONNX可视化与编辑工具
ONNX Modifier: 动态调整模型，优化深度学习性能
gitblog_00006的博客
04-09 483
ONNX Modifier: 动态调整模型，优化深度学习性能 项目地址:https://gitcode.com/ZhangGe6/onnx-modifier ONNX Modifier 是一个强大的工具，旨在帮助开发者和数据科学家优化他们的深度学习模型，通过修改ONNX（Open Neural Network Exchange）格式的模型结构来提升性能。ONNX是一种开放源代码标准，用于在不同的机...
ONNX--整理笔记
weixin_42035282的博客
04-29 528
ONNX（Open Neural Network Exchange）是一个开放的深度学习模型交换格式。目标是让不同的深度学习框架之间能够无缝地交换和使用训练好的模型，从而实现模型的跨平台部署和共享。ONNX提供了一个中立的、可扩展的表示格式，能够描述常见的深度学习模型架构，如卷积神经网络（CNN）、循环神经网络（RNN）和图神经网络（GNN）。使用ONNX，用户可以在不同的深度学习框架（如PyTorch、TensorFlow、Caffe等）之间进行模型转换和迁移，无需重新训练模型。
万能模型可视化工具
热门推荐
东方佑
01-11 3万+
https://lutzroeder.github.io/netron/
如何将训练好的.onnx模型转换为地平线RDK x3开发板所能运行的.bin模型。
2402_85245398的博客
07-06 939
确认模型结构及算子是否支持，并提供每个算子执行硬件的分配情况（BPU/CPU），RDK X3 执行脚本：01_check_X3.sh；③然后我们需要将两个配置文件名改为自己所需的名称，不然模型验证时，工具链无法找到配置文件，就无法进行转换。两个配置文件的输入输出改为自己的模型名，因为工具链是根据两个配置文件来进行转换的，不改，工具链就无法输出模型。把模型拖到yolov5s_v2.0/04_detection/03_yolov5s/mapper/目录下。文件夹下保存模型文件和静态性能评估文件。
旭日X3派：AI工具链【horizon_ai_toolchain_user_guide】
u013250861的博客
06-23 893
1. 产品介绍 1.1. 工具链总览 地平线芯片工具链（以下简称 工具链）是一套完整的边缘AI算法落地解决方案，可以帮助您在地平线AI芯片上快速部署自研算法模型。 工具链由模型转换和嵌入式运行环境等部分组成，其软件逻辑框图如下： _images/logic_diagram.png mapper部分提供了模型转换能力。通过公开DL框架获得的浮点模型，可以使用功能域转换为地平线AI芯片可识别的异构模型。 runtime sdk提供了异构模型的运行库支持，当前release版本只包含arm版本支持。 1
bcx-scalar-modifier:标量编辑
06-15
bcx-标量-修饰符 这个微小的 Node 模块就是使用预定义的规则集修改一些字符串值。 这些规则称为修饰符，对象只有接收修饰符名称和其他参数的 apply 方法。 我们遵循 Node 的理念，即保持模块小且易于更换。...
ember-ref-modifier：Ember Ref修饰符
02-04
ember-ref-modifier ember-ref-bucket主要版本发布后， ember-ref-modifier可能会被弃用 {{ref}}元素修饰符的实现。 受和启发。 安装 ember install ember-ref-modifier 兼容性 Ember.js v3.13或更高版本 ember-cli...
ember-mutation-observer-modifier:通过Ember修改器使用MutationObserver
03-04
ember-mutation-observer-modifier 通过Ember修改器使用 兼容性 Ember.js v3.12或更高版本 Ember CLI v2.13或更高版本 Node.js v10或更高版本 安装 ember install ember-mutation-observer-modifier 用法 这个插件...
ember-resize-observer-modifier:通过Ember修改器使用ResizeObserver
03-18
ember-resize-observer-modifier 通过Ember修改器使用 兼容性 Ember.js v3.12或更高版本 Ember CLI v2.13或更高版本 Node.js v10或更高版本 安装 ember install ember-resize-observer-modifier 用法 这个插件提供了...
YOLOv8目标检测算法在地平线Bernoulli2架构BPU上高效部署参考（PTQ方案）——RDK X3(旭日X3派)30fps！
吴超的博客
06-18 1260
本文在地平线对YOLOv8s的Backbone修改的基础上，提出一种在地平线Bernoulli2架构BPU上部署YOLOv8的后处理思路。使用640×640分辨率，80类别基于COCO数据集的预训练权重，让BPU加速Backbone的Neck的部分，推理时间约62ms，使用numpy优化的后处理部分，约8ms。并使用高效的Dataflow，充分利用X3的计算资源，Python多进程推理+Web推流的方式完成了一个30fps的实时目标检测demo。本文所有程序均开源。
2024钉钉杯A题思路详解
最新发布
全栈川川
07-26 1658
2024钉钉杯思路
常见的文心一言的指令
知码客
07-25 1315
文心一言，作为百度研发的预训练语言模型“ERNIE 3.0”的一项功能，能够与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。
安装TensorRT各自小库版本问题
Ppandaer的博客
07-24 457
降版本：protobuf3.19，onnx 1.12。
全面解析 SnowNLP：中文文本处理、情感分析
有勇气的牛排博客
07-24 585
SnowNLP 是一个专门用于处理中文文本的 Python库。分词情感分析关键词提取文本分类拼音转换繁体转简体词相似度计算等测试环境：Python3.10.9尚未测出该功能text = "有勇气的牛排写的文章通俗易懂，爱了爱了"文本分类使用的是 SnowNLP 的情感分析模型。
onnx模型部署flask
03-28
在部署ONNX模型时，可以使用Flask作为Web应用程序框架。Flask是一个基于Python的微框架，可以帮助您构建Web应用程序。 以下是使用Flask部署ONNX模型的步骤： 1. 安装Flask和ONNX运行时：在命令行中使用以下命令安装Flask和ONNX运行时： ``` pip install flask pip install onnxruntime ``` 2. 创建Flask应用程序：在Python脚本中导入Flask，并创建一个Flask应用程序对象： ```python from flask import Flask app = Flask(__name__) ``` 3. 创建API路由：使用Flask的`@app.route`装饰器创建API路由。在路由函数中，加载ONNX模型并使用ONNX运行时执行推理。最后，返回推理结果。 ```python import onnxruntime as rt @app.route('/predict', methods=['POST']) def predict(): # Load ONNX model session = rt.InferenceSession("model.onnx") # Get input data input_data = request.get_json() # Run inference output = session.run(None, input_data) # Return prediction return jsonify({'prediction': output}) ``` 4. 运行Flask应用程序：在Python脚本的末尾添加以下代码以运行Flask应用程序： ```python if __name__ == '__main__': app.run(debug=True) ``` 5. 测试API：使用POST请求测试API。例如，可以使用cURL命令发送POST请求： ``` curl -H "Content-Type: application/json" -X POST -d '{"input": [1, 2, 3]}' http://localhost:5000/predict ``` 以上是使用Flask部署ONNX模型的基本步骤。您可以根据需要进行修改和优化。
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值