最近在折腾三朝元老RX 580部署deepseek,虽然网上教程比较多,整个流程也不复杂,但是也踩了一些坑,这里记录一下。
一、前期准备:
1、检查AMD驱动版本:必须使用最新驱动(对于580来说是24.9.1),本人使用旧版驱动20.11.2和22.5.1进行部署,遇到不调用显存和dll丢失等问题。
2、卸载原有ollama:在windows的应用和功能里卸载即可。如果没有安装过,则跳过此步骤。
二、下载相关文件:
1、ollama-for-amd:本人使用0.3.2版本部署,由于580对应的gfx803型号太老,0.3.14、0.4.1、0.5.x等高版本部署失败。
2、ROCmLib:使用0.5.7版本。同上,高版本不支持gfx803。