有很多国产GPU支持DeepSeek,以下是一些典型代表:
1.景嘉微
JM系列:适配了DeepSeek-R1-Distill-Qwen-1.5B和DeepSeek-R1-Distill-Qwen-7B模型。
景宏系列:全面兼容DeepSeek R1全系列模型,覆盖从1.5B至70B参数规模的LLaMA及千问模型架构。
2.摩尔线程
MTT S80、MTT S4000显卡:可进行DeepSeek-R1蒸馏模型的推理部署。
夸娥(KUAE)GPU集群:全面支持DeepSeek系列模型,包括V3、R1及蒸馏模型。
3.华为昇腾:昇腾系列芯片通过昇腾全栈AI软硬件平台及CANN计算架构,与DeepSeek云的底层基础设施深度融合,支持DeepSeek系列新模型。
4.沐曦:联合中国开源大模型平台Gitee AI发布了全套DeepSeek-R1千问蒸馏模型,首批上线1.5B、7B、14B、32B四个较小规模的模型,均部署在国产沐曦曦云GPU上。
5.天数智芯:成功适配DeepSeek R1千问蒸馏模型,与Gitee AI合作,上线了多个大模型服务,包括1.5B、7B、14B等版本。
6.燧原科技:适配了DeepSeek-R1/V3 671B原生模型、DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B、DeepSeek-R1-Distill-Llam