MindSpore网络迁移310推理的时候报out of memory的错误

在使用MindSpore进行310设备上的深度学习推理时,遇到out of memory错误。问题发生在6层dprnn block的模型上,而5层时正常。尽管能导出mindir文件,但在推理时报错。经过排查,发现模型大小可能是导致内存不足的原因。通过8bit量化、减少输入大小等方法,最终解决了问题。
摘要由CSDN通过智能技术生成

在网络模型910推理迁移完毕之后,我开始根据ModelZoo库中的代码编写310推理代码,但是编写310推理的时候出现了一个out of memory错误。我使用的模型总共使用了6层dprnn block,使用5层block可以训练出ckpt文件并export出mindir文件,310推理可以正常运行。而当使用6层block的时候,可以训练出ckpt文件,也可以export出mindir文件,但是310推理报out of memory错误,具体报错信息如下:

检查了export代码以及310代码,并没有可以导致爆内存的操作。export部分的主代码我粘贴在了下面,供大家参考。


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值