Torchserve docker模型部署超详篇

1.模型打包

torch-model-archiver --model-name roadcross --version 1.0 --model-file model.py --serialized-file resnet34b_16.pth --handler resnetHandler --export-path model-store -f

参数说明：

--model-name 模型名称，根据自己需要定义，不需要跟真正的模型名称相同

--version 模型版本

--model-file 模型类文件，里面只能有一个类

--serialized-file 模型参数文件

--handler 模型处理文件，非常重要

--extra-files json文件，可以讲类别对于的名称放进去

--export-path 导出的.mar文件存放的位置，需要手动创建

实际上我在加载模型的时候，用的是torchscript格式文件，没有用到model.py，为什么还是要加这个参数呢，因为不知道为什么，如果不加该参数，会提示找不到模型。

我的文件结构如下：

执行完成后会在model-store下生成文件:</