Doiwan的博客

原创 使用LLama-Factory微调框架微调qwen系列预训练模型

最开始看的b站的视频，想要部署ChatGlm，但是运行API（好像是叫这个）文件的时候一直出问题，搞了两三天也没搞明白。其一是数据集的格式，使用llama-factory框架微调，数据集不仅要能够匹配大模型，还要能够匹配llama-factory的需要。在配置过程中，我出了很多差错，如：键不完整，路径错误，键值不匹配等问题，最后是一点一点问AI去补充修改解决的。微调文件我直接用的llama-factory自带的微调文件，修改了里面的微调参数和路径。起先我不知道部署是什么意思，是查的网上一些人的教程。