load pretrain model acc =
一、
--trainann_epochs 10 \
--L 7 \
--batchsize 256 \
--presim_len 8 \
--sim_len 32 \
--lr 0.0002 \
--wd 1e-5 \
--direct_training \
result:
0: 64.46
1: 65.40
2: 66.678
3: 68.282
4: 68.432
5: 69.148
6: 69.086
7. 69.64
8. 69.888
9. 69.852
out of memory
二、
--trainann_epochs 10 \
--L 7 \
--batchsize 128 \
--presim_len 8 \
--sim_len 32 \
--lr 0.0001 \
--wd 1e-5 \
--direct_training \
- 63.43
三、
--trainann_epochs 10 \
--L 7 \
--batchsize 128 \
--presim_len 8 \
--sim_len 32 \
--lr 0.0002 \
--wd 1e-5 \
--direct_training \
64.016
四、
--trainann_epochs 10 \
--L 7 \
--batchsize 128 \
--presim_len 8 \
--sim_len 32 \
--lr 0.001 \
--wd 1e-5 \
--direct_training \
63.952
五、
-- 0.001
-- 5e-4
62.66
六、
num——workers设置成8,pin去掉,adamW
--trainann_epochs 10 \
--L 7 \
--batchsize 128 \
--presim_len 8 \
--sim_len 32 \
--lr 0.0001 \
--wd 1e-5 \
--direct_training \
66.432
69.078
70.194
70.858
71.314
71.518
72.136
72.192
72.38
72.526
72.656
72.748
72.774
72.88
72.926
、
72.804
72.854
72.946
73.12
72.938
73.284