LLM、AIGC、RAG 开发交流裙:377891973 文章目录 关于 Firefly 模型列表 中文模型 英文模型 训练数据 模型训练 数据格式 全量参数微调 QLoRA微调 模型使用 1、权重合并 2、模型推理 3、服务部署 FAQ 1、OOM如何解决? 2、安装包错误 3、是否支持DeepSpeed+QLoRA? 4、如何指定使用某些卡训练? 5、QLoRA微调ChatGLM2,显示找不到插入adapter的层 6、训练Baichuan2失败 局限性和使用限制 生成效果 关于 Firefly github : https://github.com/yangjianxin1/Firefly 作者主页:https://www.zhihu.com/people/jian-xin-15-96 Firefly(流萤) 是一个开源的中文大语言模型项目,支持QLoRA和全量参数微调 Baichuan2、CodeLLaMA、LLaMA2、LLaMA、Qwen、Baichuan、ChatGLM2、InternLM、Ziya、Bloom、XVERSE等开源模型。 正如我们的项目名称一样,希望本项目能够像流萤一般发出淡淡微光,为中文大语言模型社区尽绵薄之力,促进中文大语言模型社区的发展。 流萤(萤火虫的别称)是中华传统文化的一个符号,虽