Translation
解码过程的实现,主要是通过sockeye.translate
模块。
python -m sockeye.translate
这一步仅仅需要一个--models
参数,它指向的是训练模型<model_dir>
文件夹路径。sockeye
默认从最好的checkpoints
参数,并且使用他们来做翻译。你可以指定特定的参数从特定的checkpoint
中,使用的指令是--checkpoints X
。
你可以使用--beam-size
控制beam尺寸的大小,通过--max-input-length
控制输入的最大长度。一旦序列长度超过最大长度,就会被忽略。
从标准输入读取输入,然后将输出写入标准输出。一旦使用了输入,CLI
将记录转换速度。和训练过程一样,第一块GPU是默认使用的。需要注意的是多GPU目前还不支持。需要使用CPU,请用--use-cpu
。
使用--help
选线,查看完整列表选项。
整体解码
Sockeye通过指定多个模型目录和多个检查点来支持集成解码。列表必须有相同的长度,这样,第一个给定的检查点将从第一个模型目录中获取,从第二个目录中指定的第二个检查点,等等。
python -m sockeye.translate --models [ ] --checkpoints [ ]
Visualization
转换CLI的默认模式是将转换输出到STDOUT。