yanzhande的博客

原创 Flux模型从Safetensors到GGUF格式转换

为了更有特色的绘图，我下载了几个非官方微调之后的Flux大模型，效果还不错，但是模型文件太大了，22G多的尺寸我的显卡表示说有点吃力，虽说comfyUI在load模型时可以指定转为fp8格式，但load速度就很有点感人了，实测经常要20多分钟以上，这种速度太影响心情了，遂动了给模型减肥的心思，上网搜索、请教AI大模型.......逢山开路，遇水架桥，几经踩坑终于成功在windows环境下转成了GGUF格式，现记录一下过程。