前几天我们发起了 DeepSeek 私有化部署远程测试体验,我们4卡 RTX 5000 Ada 的本地工作站上部署了R1 32B的基础模型,基于 OpenwebUI 简单搭了一个前端,文章发出后,只得感叹 DeepSeek 的带货能力确实很强,非常感谢大家的关注!
128GB显存!4卡 DeepSeek R1 32B私有化部署开放远程测试!
那么,除了 RTX 5000 Ada,4090 的表现如何,性能更强的 RTX 5880 Ada 的表现又怎么样,从单卡到4卡的工作站在满血部署的前提下性能表现到底怎么样?
这两天,某用户技术小伙伴也参与进来,一起测试了这3款 GPU 在 DeepSeek R1 7B、14B 和 32B 三个模型中的性能表现。
因为只是性能测试,没有加入量化版的性能表现,所得数据仅供大家参考:
统一提示词
"p