4090显卡 + 4张48G内存条 台式机部署满血版的DeepSeek

清华新出的KTransforers方案要部署满血 4bit量化版 DeepSeek需要382GB内存，而我并没有这么大的内存机箱，而我目前有的是4张48G内存条，以及一个配有4090的台式机，那么我可以跑起来吗？
答案是全参1.58bit或者1.73量化版deepseek还是可以尝试下的，经过一个星期努力，终于配置上了满血1.73bit量化版deepseek。

电脑环境

cpu：i9
内存条4个：48G，总共192G
显卡4090，显存24G

下载 Deepseek-R1 1.58 bit 或者1.73 bit 动态量化版

链接：https://www.modelscope.cn/models/unsloth/DeepSeek-R1-GGUF/summary

这里我下载的1.73bit，一共158GB左右。有四个文件如下：

llama.cpp配置

下载cmake

下载地址：https://cmake.org/download/
下载msi直接安装，下载zip后需要配置环境变量。

安装mingw

powershell下执行

Set-ExecutionPolicy RemoteSigned -Scope CurrentUser
iex "& {$(irm get.scoop.sh)} -RunAsAdmin"
scoop bucket add extras
scoop bucket add main
scoop install mingw

这里scoop安装出错，irm : 未能解析此远程名称: 'raw.githubusercontent.com'
解决办法
修改host文件，进入下面目录

C:\Windows\System32\drivers\etc

找到host文件，添加

199.232.68.133 raw.githubusercontent.com

下载llama.cpp代码

git clone https://github.com/ggml-org/llama.cpp.git

更多详细内容，关注下面公众号，回复dp获取