![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
大模型-模型训练
大模型监督微调、奖励模型和强化学习等工作
大模型任我行
大模型探索者,每日论文分享,追踪技术前沿!之前的几百篇论文分享都在xhs(https://www.xiaohongshu.com/user/profile/61d5aec7000000001000568c),欢迎点赞收藏!
展开
-
中科大:LoRA中引入等效梯度优化LLM训练
使用LoRA对大语言模型(LLM)优化过程中,未能很好地近似全参微调。论文提出了LoRA-Pro方法,通过引入等效梯度的闭合解来优化LoRA,从而缩小与全参微调的性能差距。原创 2024-08-21 14:54:49 · 207 阅读 · 0 评论 -
阿里:LLM训练过程的差异化知识蒸馏
大语言模型(LLM)的知识蒸馏过程中,如何减少教师模型和学生模型在不同领域间的性能差异?论文提出了一种名为DDK的方法,根据教师和学生模型之间的领域性能差异,平滑地动态调整蒸馏数据集的组成,使得蒸馏过程更加稳定和有效。原创 2024-08-21 14:25:23 · 383 阅读 · 0 评论 -
北大:偏好优化提升LLM在RAG的知识感知
如何优化检索增强语言模型遇到的知识冲突,导致模型的响应混乱?论文提出了一种知识感知偏好优化框架KaPO,通过偏好优化方法避免上下文中的错误信号,增强了LLM的遵循能力和噪声鲁棒性。原创 2024-08-21 14:03:06 · 93 阅读 · 0 评论