Qwen1.5-1.8B
TP=2,PP=1
也可以不开TP。。
Qwen1.5-4B
TP=2,PP=1
Qwen1.5-7B
TP=2,PP=1
Qwen1.5-14B
TP=4,PP=1
Qwen1.5-72B
TP=8,PP=4
Qwen1.5-1.8B
TP=2,PP=1
也可以不开TP。。
Qwen1.5-4B
TP=2,PP=1
Qwen1.5-7B
TP=2,PP=1
Qwen1.5-14B
TP=4,PP=1
Qwen1.5-72B
TP=8,PP=4