![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
LLM概念梳理
文章平均质量分 93
樱岛の鲸
一个喜欢金融的程序猿.
展开
-
LLM概念梳理(二):检索增强RAG
这篇文章对 RAG 技术进行了详细的描述。我根据自己的理解,并且按照代码思路重新进行整理。RAG 技术看似神奇,其本质是结合了检索和生成两个子任务的一种系统工程,其中每个子任务有明确的技术原理支撑。检索模型充当“图书馆员”,扫描大型数据库以获取相关信息,生成模型充当“作家”,将这些信息合成为与任务更相关的文本。它用途广泛,适用于摘要、自动化客户服务和复杂研究任务等多种领域。具体来说,首先,对知识库进行,使用加载器从知识库中获取文档并分割成文档片段,经过嵌入后得到向量数据库;然后是。原创 2024-08-21 20:23:26 · 562 阅读 · 0 评论 -
LLM概念梳理(一):训练流程之PT、SFT和PO
SFT、RLHF 和 DPO 都是先估计 LLMs 本身的偏好,再与人类的偏好进行对齐;SFT 只通过 LLMs 生成的下一个单词进行估计,而 RLHF 和 DPO 通过 LLMs 生成的完整句子进行估计,显然后者的估计会更准确;虽然 RLHF 和 DPO 取得比 SFT 好的结果,但代价是高昂的数据构造和计算资源开销。6000字长文告诉你:大模型「训练」与「微调」概念详解带人工反馈的强化学习(rlhf)和微调(fine-tune)有什么区别?原创 2024-08-20 14:06:21 · 850 阅读 · 0 评论