tensorrt序列化和反序列化失败

今天开发的时候用tensorrt的序列化和反序列化,总是报engine为nullptr的错误。

首先我序列化的是时候是这样写的

caffeToTRTModel(deployfile, modelfile, NULL);
        ofstream trtModelFile(cacheFile);
        trtModelFile.write((char *)trtModelStream->data(), trtModelStream->size());
        trtModelFile.close();
        runtime = createInferRuntime(*pLogger);
        engine = runtime->deserializeCudaEngine(trtModelStream->data(), trtModelStream->size(), NULL);
        trtModelStream->destroy();

然后反序列这样写的

string cacheFile = netWorkName + ".cache";
        ifstream trtModelFile(cacheFile);
        trtModelFile.seekg(0, ios::end);
        size = trtModelFile.tellg(); 
        trtModelFile.seekg(0, ios::beg);

        char * buff = new char [size];
        trtModelFile.read(buff, size);
        trtModelFile.close();
        runtime = createInferRuntime(*pLogger);
        engine = runtime->deserializeCudaEngine((void *)buff, size, NULL);
        delete buff;

怎么看这段代码代码都没问题啊,怎么会反序列化出错呢。

后面调试一下发现,write的size和read的size居然不是一样大的。

太坑了,原来为了保证ofstream和ifstream的大小完全一致,一定保证写入和读取都是二进制形式,即是改成这样

ofstream trtModelFile(cacheFile, std::ios_base::out | std::ios_base::binary);
ifstream trtModelFile(cacheFile, std::ios_base::in | std::ios_base::binary);
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值