Miyazaki_Hayao
生活细碎,万物成诗。
展开
-
1、LangChain —— 基础知识储备
大语言模型是一种人工智能模型,通常使用深度学习技术,比如神经网络,来理解和生成人类语言。这些模型的“大”在于它们的参数数量非常多。你可以将大语言模型想象成一个巨大的预测机器,其训练过程主要基于“猜词”:给定一段文本的开头,它的任务就是预测下一个词是什么。LangChain 是一个全方位的、基于大语言模型这种预测能力的应用开发工具,它的灵活性和模块化特性使得处理语言模型变得极其简便。LangChain 的预构建链功能,就像乐高积木。原创 2024-07-22 08:33:07 · 618 阅读 · 0 评论 -
2、LangChain —— RAG基本架构
LLM 支持的最强大的应用程序之一是复杂的问答 (Q&A) 聊天机器人。这些应用程序可以回答有关特定源信息的问题。这些应用程序使用一种称为检索增强生成 (RAG)的技术。这里将展示如何基于文本数据源构建一个简单的问答应用程序。在此过程中,我们将介绍典型的问答架构,并重点介绍更多高级问答技术的资源。我们还将了解LangSmith如何帮助我们跟踪和理解我们的应用程序。随着我们的应用程序变得越来越复杂,LangSmith 将变得越来越有用。RAG 是一种利用附加数据增强 LLM 知识的技术。原创 2024-07-22 09:29:03 · 698 阅读 · 0 评论 -
3、LangChain —— 模型I/O,输入提示、模型调用、解析输出
从这节课开始,我们将对 LangChain 中的六大核心组件一一进行详细的剖析。Model 模型,位于 LangChain 框架的最底层,它是基于语言模型构建的应用的核心元素,因为所谓 LangChain 应用开发,就是以 LangChain 作为框架,通过 API 调用大模型来解决具体问题的过程。原创 2024-07-23 11:34:05 · 41 阅读 · 0 评论 -
4、LangChain —— 提示工程 (上) fewshottemplate 和 exampleselector
其实,在上一章中就提到了提示词工程,输出解析器的原理实际上就是通过提示词明确地告诉 llm 应该做什么。之前有说过吴恩达老师说过的提示词两大原则:清晰具体的指令、给模型思考的时间。实际上,在 Open AI 的官方文档 GPT 最佳实践中,也给出了和上面这两大原则一脉相承的6大策略写清晰的指示给模型提供参考,也就是示例将复杂任务拆分成子任务给 GPT 时间思考使用外部工具反复迭代问题。原创 2024-07-25 17:10:48 · 36 阅读 · 0 评论 -
5、LangChain —— 提示工程 (下) 思维链和思维树
上面我们讨论了 Chain of Thought 和 Tree of Thought 这两个概念,并探讨了如何利用它们引导大型语言模型进行更深入的推理。CoT核心思想是通过生成一系列中间推理步骤来增强模型的推理能力。在 Few-Shot CoT 和 Zero-Shot CoT 两种应用方法中,前者通过提供链式思考示例传递给模型,后者则直接告诉模型进行要按部就班的推理。ToT进一步扩展了 CoT 的思想,通过搜索由连贯的语言序列组成的思维树来解决复杂问题。具体过程可以通过学习。原创 2024-07-26 14:16:48 · 42 阅读 · 0 评论 -
6、LangChain —— 使用 Huggingface 中的开源模型
大语言模型,不止 ChatGPT 一种。调用 OpenAI 的 API,当然方便且高效,不过,如果我就是想用其他的模型 (比如说开源的 Llama2 或者 ChatGLM),该怎么做?再进一步,如果我就是想在本机上从头训练出来一个新模型,然后在 LangChain 中使用自己的模型,又该怎么做?关于大模型的微调 (或称精调)、预训练、重新训练、乃至从头训练,这是一个相当大的话题,不仅仅需要足够的知识和经验,还需要大量的语料数据、GPU 硬件和强大的工程能力。原创 2024-07-29 11:05:40 · 34 阅读 · 0 评论