LLM、AIGC、RAG 开发交流裙：377891973 文章目录 关于 Firefly 模型列表 中文模型 英文模型 训练数据 模型训练 数据格式 全量参数微调 QLoRA微调 模型使用 1、权重合并 2、模型推理 3、服务部署 FAQ 1、OOM如何解决？ 2、安装包错误 3、是否支持DeepSpeed+QLoRA？ 4、如何指定使用某些卡训练？ 5、QLoRA微调ChatGLM2，显示找不到插入adapter的层 6、训练Baichuan2失败 局限性和使用限制 生成效果 关于 Firefly github : https://github.com/yangjianxin1/Firefly 作者主页：https://www.zhihu.com/people/jian-xin-15-96 Firefly(流萤) 是一个开源的中文大语言模型项目，支持QLoRA和全量参数微调 Baichuan2、CodeLLaMA、LLaMA2、LLaMA、Qwen、Baichuan、ChatGLM2、InternLM、Ziya、Bloom、XVERSE等开源模型。 正如我们的项目名称一样，希望本项目能够像流萤一般发出淡淡微光，为中文大语言模型社区尽绵薄之力，促进中文大语言模型社区的发展。 流萤（萤火虫的别称）是中华传统文化的一个符号，虽
超级会员免费看
订阅专栏 解锁全文
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
267
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
