cute_cat_kaddy的博客

原创 从 CUDA 叛逃到 ROCm：一个金融 AI 程序员的血泪迁移实录

从最开始对 ROCm 半信半疑，到现在把核心推理服务跑在 MI300X 上，这几个月的迁移之旅让我对 AMD 的开源策略有了更多的信心。ROCm 不完美，坑也不少，但它在认真补。vLLM 的 AITER_FA 后端、PyTorch 的 upstream 支持、MI300X 的大显存优势——这些不是 PPT 上的数字，是实际跑起来能感受到的东西。更重要的是，开放生态的价值在长期。当你的算力供应商不再只有一家，你跟他们谈价格的底气也不一样了。