check allInputDimensionsSpecified() for second profile fail

已于 2022-09-09 02:19:07 修改
阅读量1k 收藏 1
点赞数
分类专栏： 深度学习宝典 yolo 文章标签： python c++ 开发语言
于 2022-09-09 01:31:13 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jacke121/article/details/126775117
版权
在使用Yolov7的TensorRT引擎进行预测时遇到错误：[TRT] Parameter check failed at: executionContext.cpp...。问题在于没有为动态维度的输入指定尺寸。在Python中，可以通过在推理前设置输入尺寸解决。对于C++，需要使用IExecutionContext的setBindingDimensions方法来设定动态维度的具体值。通过getBindingDimensions检查维度，并在执行推理前调用setBindingDimensions设置输入尺寸。
摘要由CSDN通过智能技术生成

目录

yolov7 tensorrt预测时报错：

在python代码里，在调用engine推理前做这样的设置即可:

yolov7修改后的tenorrt预测代码：

tensorrt c++预测修改 测试ok

yolov7 tensorrt预测时报错：

[09/09/2022-01:29:24] [TRT] [E] 3: [executionContext.cpp::nvinfer1::rt::ShapeMachineContext::resolveSlots::1480] Error Code 3: API Usage Error (Parameter check failed at: executionContext.cpp::nvinfer1::rt::ShapeMachineContext::resolveSlots::1480, condition: allInputDimensionsSpecified(routine)
)
[09/09/2022-01:29:24] [TRT] [E] 9: [executionContext.cpp::nvinfer1::rt::ExecutionContext::executeInternal::527] Error Code 9: Internal Error (Could not resolve slots: )

下面是作者报的错：

调用具体动态维度的模型engine时如果没有指定维度，会导致报类似这样的错误：

[TRT] Parameter check failed at: engine.cpp::resolveslots::1227, con

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI算法网奇
关注
专栏目录
订阅专栏
Go ：测试堆采样逻辑(附完整源码)
希望我的博客，能帮上你解决学习中工作中所遇到的问题
11-01 125
Go ：测试堆采样逻辑(附完整源码)
pytorch/mxnet模型tensorrt部署
u011605951的博客
09-07 4191
pytorch/mxnet模型tensorrt部署流程转onnx问题记录tensorrt问题记录 本文用于记录pytorch/mxnet模型使用tersorrt的整个流程以及遇到的坑。 tensorrt支持TensorFlow的uff和onnx以及自定义模型的推理加速，对于pytorch有第三方接口torch2trt项目，但是这个需要定义好模型在加入，不能把模型和tensorrt分离 import torch from torch2trt import torch2trt from torchvision.
CenterPoint 部署攻略二（pth2onnx 基于mmengine）（动态多输入、多模型、校准验证）
Xiaobai_Zhao的博客
09-13 635
针对 centerpoint 的构造(centerpoint_pillar02_second_secfpn_8xb4-cyclic-20e_nus-3d)，即：Det3DDataPreprocessor -> PillarFeatureNet -> PointPillarsScatter -> SECOND -> SECONDFPN -> CenterHead；系列二，主要就是 pth2onnx 的脚本及注释，本篇不涉及自定义算子，因此也是其他模型的通用模板！check 无报错且则 可视化。
如何调用一个具有动态维度的tensorrt engine
XCCCCZ的博客
02-18 9977
调用具体动态维度的模型engine时如果没有指定维度，会导致报类似这样的错误： [TRT] Parameter check failed at: engine.cpp::resolveslots::1227, condition: allInputDimensionsSpecified(routine) 在python代码里，在调用engine推理前做这样的设置即可: context.set_binding_shape(0, (BATCH, 3, INPUT_H, INPUT_W)) 在C++代码里
tensorrt plugin
最新发布
xihuanniNI的博客
09-02 709
对于enqueue函数，由于都是不确定的数值，需要输入输出的描述。静态shape的隐式batch意思是，这个batch的数值是enqueue传递进来的，剩下的维度都是确定，batch是动态的。静态shape中，TRT的推理中，batch是拿不到的，getOutputDimensions的inputs参数只会有CHW，是一个明确数值和维度的数组。默认写的.cu是fp32的，TensorRT在fp16运行模式下，运行到不支持fp16的插件op时，会自动切换到fp32模式，等插件op运行完再切换回来。
tensorRT---inference
进击的菜鸟
05-21 497
这里主要讲推理，我们关注的基础中的基础对吗 重点提炼： 1.bindings是tensorRT对输入输出张量的描述，bindings = input-tensor + output-tensor。比如input有a，output有b, c, d，那么bindings = [a, b, c, d]，bindings[0] = a，bindings[2] = c。此时看到engine->getBindingDimensions(0)你得知道获取的是什么 2.enqueueV2是异步推理，加入到s
【tensorRT文档翻译】7. Working With Dynamic Shapes
Hali_Botebie的博客
05-11 852
https://docs.nvidia.com/deeplearning/tensorrt/developer-guide/index.html#work_dynamic_shapes 文章目录7.处理动态形状7.1. Specifying Runtime Dimensions7.2. Optimization Profiles7.2.1。 多个优化配置文件的绑定7.3. Layer Extensions For Dynamic Shapes7.4. Restrictions For Dynamic Sha
Chrome的启动参数
Criss@陈磊
02-23 4815
List of Chromium Command Line Switches Condition Explanation --[1]⊗ Classic, non-material, mode for the |kTopChromeMD| switch.↪ --0⊗ Value of the --profiler-timing flag that will disable timin...
【机械臂视觉抓取从理论到实战】
vor234的博客
10-23 1671
首先声明一下，此项目是参考B站哈萨克斯坦UP的【机械臂视觉抓取从理论到实战】 此内容为他研究生生涯的阶段性成果展示和技术分享，所有数据和代码均开源。所以鹏鹏我特此来复现一下，我采用的硬件与之有所不同，UP主使用UR5，我实验室采用的是UR3，下面列出相关材料 UR3CB3.12:https://www.universal-robots.cn/cb3/ 【UR3系统升级到CB3.12附带URcap1.05】硬件支持代码支持 jacquard数据集：https://pan.baidu.com/s/1524HrV
CUDA：使用CUBLAS和CUSPARSE求解三角系统用于在均匀网格上求解二维拉普拉斯算子实例
希望我的博客，能帮上你解决学习中工作中所遇到的问题
12-21 244
CUDA：使用CUBLAS和CUSPARSE求解三角系统用于在均匀网格上求解二维拉普拉斯算子实例
TensorRt（2）快速入门介绍
热爱生活，忠于自己
11-27 2105
TensorRt的安装，不同环境下的安装不做介绍，注意不同版本对系统和软件版本的要求。先介绍tensorrt的常规开发周期流程：这个部分不属于TensorRt的内容范畴。通常训练网络模型使用高性能的服务器，使用的框架常见的有Tensorflow、pytorch、caffe、mxnet等。之后被TendorRt加载或转成换能够加载的模型格式。加载第三方模型（目前仅支持onnx、caffe、uff）进行模型编译并从多个方面优化，生成序列化的engine模型，以plan形式保存。
Jetson学习笔记(二):TensorRT 查看模型的输入输出
源的博客
04-02 2111
通过下面代码运行即可 import tensorrt as trt def get_engine(engine_path): # If a serialized engine exists, use it instead of building an engine. print("Reading engine from file {}".format(engine_path)) with open(engine_path, "rb") as f, trt.Runtime(TRT_
tensorrt 高级(1):完整的分类器实现
@bangbang的博客
09-15 1025
这里input_batch，input_channel，input_height，input_width可以从egine中获取，这里为了方便直接写死了。6） 推理完后，将out_put_device数据拷贝到out_put_host中，并执行流同步，等待所有操作结束。有了onnx文件，就可以利用tensorrt进行分类模型的推理了，在推理前需要配置好。，就是需要的分类概率值,然后拿到label，以及对应的confidence。1 ) 分配存储输入图片的空间，包括device和host。
【代码分析】TensorRT sampleMNIST 详解
HaoBBNuanMM的博客
11-04 4352
目录 前言 代码分析 Main入口 网络构建（build）阶段 网络推理(infer) 阶段 释放资源 前言 TensorRT的”hello world“程序sampleMNIST是众多TensorRT初学者很好的起点，本文旨在详细分析sampleMNIST的代码，从实践出发帮助理解TensorRT的相关概念、与cuda的关系、以及核心API的使用。 代码分析 ...
1.转onnx ，dynamic 2.转trt，batch 3.execution_context-＞setBindingDimensions(0, input_dims)；
weixin_69890276的博客
05-26 114
yolo ,trt ,多batch
TensorRT程序实现
太阳当空照，花儿对我笑，微风轻轻拂，心情无限好。
02-05 689
定义TRT_LOGGER，用于转换过程中警告和错误的打印生成engine读入engine为模型分配空间创建context加载输入inputs[0].host = img_np_nchw.reshape(-1) # 必须变成一维向量，无论有几个batch。如果有多个输入就逐个赋值给input[1]必须变成一维向量，且必须附给inputs[0].host，原因不明。推理。
Internal Error (Network has dynamic or shape inputs, but no optimization profile has been defined.)
阴无月的博客
08-17 3458
TensorRT部署推理时，onnx模型的动态输入问题
CUDA与TensorRT(5)之TensorRT介绍
qq_42692305的博客
01-22 2816
CUDA与TensorRT(5)之TensorRT介绍
type check failed for prop "SPAN
07-30
"Type check failed for prop 'SPAN'" 这是一个关于编程特别是前端开发中常见的错误信息。它通常发生在JavaScript或React.js的组件属性设置上，当试图将一个不符合预期类型的值赋给名为 "SPAN" 的prop（属性）时会出现这种错误。"Span" 一般是指HTML中的 `<span>` 元素，在React中作为props传递的是JavaScript对象，如果这个对象的类型不匹配 `<span>` 接收的属性类型（比如期望是字符串、元素或者其他特定类型），就会抛出type check failed的错误。 例如，如果你的代码里有这样的部分： ```jsx function MyComponent({ SPAN }) { // 错误，应该大写才对，如 `span` return <span>{SPAN}</span>; } <MyComponent SPAN={"some text"} /> // 如果SPAN不是字符串 ``` 修复此问题的方法是确保传递给 `SPAN` 的值类型正确。如果是期望字符串，应确保是个字符串；如果是其他组件，就使用该组件实例。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI算法网奇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值