今天对微调修改op的模型进行50个epoch训练后,将模型导出为onnx的过程中,遇到一个有意思的现象。转换后的模型,可以正常通过onnxruntime进行推理测试,但是在check_model的时候报错了,segmentation fault。百度查了下说是要在import torch之前,先进行import onnx。试了一下,check_model就通过了。
另外一个现象是,为了推理加速,将后处理的操作移到了模型内,这种可以推理然后保存,但是训练就会报错,说是类型不匹配,具体的报错信息,因为目前在训练中,后续截图展示出来。所以目前的训练还是以原来的方式进行训练,没有包含后处理。