训练大模型租赁AI算力如何选择显卡型号

使用场景分类	模型大小	推荐型号
预训练/ 全量微调	7B以内	3090 (推荐) 4090 (推荐, 高性价比) V100 32G A100 40G PCIe (推荐) A800/H800等
	7B-10B	3090 4090 A100 40G PCIe (推荐, 高性价比) A800/H800等
	10B-70B	A100 40G PCIe A800/H800等（推荐, 高性价比）
	70B以上	A800/H800/H100等
推理	360B以内	INT4量化可支持： 3090 (推荐) 4090 (推荐, 高性价比)
	180B以内	INT8量化可支持： 3090 (推荐) 4090 (推荐, 高性价比)
	90B以内	FP16可支持： 3090 24G (推荐) 4090 24G (推荐, 高性价比)
	360B以上	A100 80G/A800 80G（推荐） 3090/409多机集群（定制资源