iwlst14 de-en

最新推荐文章于 2023-04-03 00:41:31 发布

许多天的rua

最新推荐文章于 2023-04-03 00:41:31 发布

阅读量889

点赞数

分类专栏： transformer

本文链接：https://blog.csdn.net/qq_18053809/article/details/91865152

版权

transformer 专栏收录该内容

2 篇文章 0 订阅

订阅专栏

iwlst14 de-en

folder: group-transformer/verify
train:

CUDA_VISIBLE_DEVICES=0,1,2,3  fairseq-train /n/home05/simonx/scratchlfs/zhenyu/3389_iwslt_en_de_transformer/data-bin/iwslt14.tokenized.de-en\
  -a transformer_iwslt_de_en --optimizer adam --lr 0.0005 -s de -t en \
  --label-smoothing 0.1 --dropout 0.3 --max-tokens 4000 \
  --min-lr '1e-09' --lr-scheduler inverse_sqrt --weight-decay 0.0001 \
  --criterion label_smoothed_cross_entropy --max-update 50000 \
  --warmup-updates 4000 --warmup-init-lr '1e-07' \
  --adam-betas '(0.9, 0.98)' --save-dir checkpoints --reset-optimizer | tee r_train