- 博客(3)
- 收藏
- 关注
原创 shellrec
pip install torch==1.9.1+cu111 torchvision==0.10.1+cu111 torchaudio==0.9.1 -f https://download.pytorch.org/whl/torch_stable.html
2023-09-08 16:14:09 27 1
原创 模型INT8量化拆分现象
int8量化后 layernorm被拆分成ReduceMean +Sub等。添加后可能会影响其它层融合,推理速度反而降低。通过添加plugin融合。fp32 trt结构。
2023-07-02 13:42:03 106 1
原创 MobileVit模型转TensorRT
MobileVit: TensrRT:8.2.4动态onnx转trt报:调试得知num_heads=1,因此:onnx定位: (部分层无效)
2023-05-07 23:40:39 191 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人