AI
文章平均质量分 80
yezipi耶不耶
这个作者很懒,什么都没留下…
展开
-
大模型RAG应用与LangChain4初探
LLM可以加载从众多数据源检索到的信息,这些检索到的信息被加载到上下文窗口中,并用于 LLM 输出生成,这一过程通常称为检索增强生成(RAG)。RAG 是 LLM 应用程序开发中最重要的概念之一,因为它是一种向 LLM 传递外部信息的简便方法,在需要事实回忆的问题上,它比更复杂的微调更有优势。低成本:与重新训练或微调整个LLM相比,RAG通常只需要对检索机制和融合机制进行微调,大大降低了计算成本和时间。高效性:通过在生成过程中引入相关的外部信息,RAG可以显著提高LLM在特定领域的准确性。灵活性。原创 2024-05-09 17:19:02 · 1123 阅读 · 0 评论 -
本地运行AI大模型简单示例
本文会介绍一下如何在本地运行大模型并和大模型进行交互对话,帮助我们回答问题,进行问答交互。原创 2024-05-06 16:56:17 · 828 阅读 · 0 评论