#LLM入门|prompt#（完结）最全面向开发者的LLM入门教程

面向开发者的LLM入门教程笔记合集（更新中）

点击链接可跳转

• 目录
  • 前言
  • 环境配置
  • 第一部分 面向开发者的提示工程
    • 0. 概述
    • 1. 简介 Introduction
    • 2. 提示原则 Guidelines
    • 3. 迭代优化 Iterative
    • 4. 文本概括 Summarizing
    • 5. 推断 Inferring
    • 6. 文本转换 Transforming
    • 7. 文本扩展 Expanding
    • 8. 聊天机器人 Chatbot
    • 9. 总结 Summary
  • 第二部分 搭建基于 ChatGPT 的问答系统
    • 0. 概述

    • 1. 简介 Introduction

    • 2. 语言模型，提问范式与 Token Language Models, the Chat Format and Tokens

    • 3. 评估输入-分类 Classification

    • 4. 检查输入-监督 Moderation

    • 5. 思维链推理 Chain of Thought Reasoning

    • 6. Prompt 链 Chaining Prompts

    • 7. 检查结果 Check Outputs

    • 8. 搭建一个带评估的端到端系统 Evaluation

    • 9. 评估（上）Evaluation-part1

    • 10. 评估（下）Evaluation-part2

    • 11. 总结 Conclusion
  • 第三部分 使用 LangChain 开发应用程序
    • 0. 概述
    • 1. 简介 Introduction
    • 2. 模型、提示和解析器 Models, Prompts and Parsers
    • 3. 储存 Memory
    • 4. 模型链 Chains
    • 5. 基于文档的问答 Question and Answer
    • 6. 评估 Evaluation
    • 7. 代理 Agent
    • 8. 总结 Conclusion
  • 第四部分 使用 LangChain 访问个人数据
    • 1. 简介 Introduction
    • 2. 文档加载 Document Loading
    • 3. 文档分割 Splitting
    • 4. 向量数据库与词向量 Vectorstores and Embeddings
    • 5. 检索 Retrieval
    • 6. 问答 Question ANswering
    • 7. 聊天 Chat
    • 8. 总结 Summary

第一部分 面向开发者的提示工程总结

学习总结

• 掌握了关于Prompt的两个核心原则：
  1. 编写清晰具体的指令；
  2. 在适当时给模型一些思考时间。
• 学习了迭代式Prompt开发的方法，并了解了找到适合应用程序的Prompt的重要性。
• 探讨了大型语言模型的功能，包括摘要、推断、转换和扩展。
• 学习了如何搭建个性化的聊天机器人。

学习收获

• 对Prompt开发方法有了深入理解，为将来的应用开发奠定了基础。
• 熟悉了大型语言模型的各种功能，为实际项目的实施提供了参考。
• 在第一部分的学习中，积累了丰富的经验，希望能够在实践中运用。

下一步计划

• 灵感迸发后，尝试创建自己的应用项目。
• 从微型项目开始，逐步提升，或者直接着手一个宏大的项目。
• 利用第一部分学习的经验，不断创新和完善。

第二部分 搭建基于 ChatGPT 的问答系统

在本书第二单元中，我们学习了ChatGPT的应用实践，包括处理输入、审查输出以及评估等环节。以下是对本单元内容的学习总结、学习收获和下一步计划：

学习总结：

• 本单元深入介绍了LLM的工作机制，包括分词器的细节和输入表示方法。
• 学习了如何评估用户输入的质量和安全性，以及如何利用思维链作为Prompt来引导模型生成合适的回答。
• 探讨了如何通过链式Prompt进行任务分割，以及在返回用户之前如何检查和审查模型的输出。
• 讨论了如何评估系统的长期性能，以便进行监控和改进。
• 强调了构建负责任系统的重要性，确保模型提供合理和相关的反馈。

学习收获：

• 了解了LLM的基本工作原理和使用方法。
• 学会了如何评估和处理用户输入，以确保模型生成准确和安全的回答。
• 掌握了使用思维链和Prompt来引导模型生成特定类型的回答。
• 了解了如何通过任务分割和输出审查来提高模型的可靠性。
• 知道了如何评估系统的性能和质量，并进行持续的监控和改进。
• 理解了构建负责任系统的原则和方法。

下一步计划：

• 进一步探索LLM的应用领域，尝试解决更复杂和具体的问题。
• 深入研究和实践模型评估和改进的方法，以提高模型的性能和质量。
• 学习和应用更多的负责任AI的原则和实践，确保模型的使用是合理和相关的。
• 继续关注最新的研究和发展，以保持对ChatGPT和LLM领域的了解和更新。

第三部分 使用 LangChain 开发应用程序

本章节介绍了使用LangChain构建语言模型应用的多种实践，如处理用户评论、文档问答和获取外部知识等。以下是对教程内容的概括：

1. LangChain的强大能力：通过案例展示，LangChain简化并加速了语言模型应用的开发过程，将原本耗时数周的功能开发缩短到只需少量代码即可实现，成为了大模型应用开发的强有力范式。
2. LangChain的多样化应用：除了教程中提到的应用，LangChain还能处理基于CSV文件的问题回答、SQL数据库查询、API交互等，通过Chain和不同提示（Prompts）及输出解析器（output parsers）的组合，实现更多可能性。
3. 探索LangChain的新世界：感谢LangChain的贡献者们，他们通过丰富文档和案例，使得LangChain更加易学易用。如果还没有开始使用LangChain，现在就是时候通过Python和pip install LangChain命令来探索这个工具的无限魅力。
4. 以下是将提取的内容补充到之前提供的学习总结和学习收获中：

学习总结：

1. LangChain的高效开发能力：本教程由LangChain创始人Harrison Chase与DeepLearning.AI合作推出，旨在帮助大家掌握这个强大的大语言模型应用开发框架。通过案例展示，LangChain简化并加速了语言模型应用的开发过程，将原本耗时数周的功能开发缩短到只需少量代码即可实现。

2. LangChain的多样化功能：LangChain不仅可以处理用户评论、文档问答和获取外部知识等任务，还能够处理基于CSV文件的问题回答、SQL数据库查询、API交互等。通过Chain和不同提示（Prompts）及输出解析器（output parsers）的组合，实现更多可能性。

学习收获：

1. 对LangChain的深入理解：通过本教程的学习，我们了解到LangChain的诞生和发展，它是由Harrison Chase基于简化AI应用程序开发的需求而创建的。LangChain的开源社区快速发展，贡献者已达数百人，正以惊人的速度更新代码和功能。

2. LangChain的核心组件：本模块重点介绍了LangChain的常用组件，包括模型(Models)、提示(Prompts)、索引(Indexes)、链(Chains)和代理(Agents)。通过学习使用这些组件构建链式应用，可以快速上手LangChain，开发出功能强大的语言模型程序。

3. 探索LangChain的动力：感谢LangChain的贡献者们，他们的努力让这个框架更加易学易用。现在，通过简单的Python命令pip install LangChain，我们就可以开始探索这个充满魔力的工具，解锁其无限的可能性。

下一步计划

• 个人数据的重要性： 在大数据时代背景下，个人数据对于提供定制化和个性化服务具有核心价值。

• LangChain框架的作用： LangChain是专为大模型开发设计的框架，提供访问和利用个人数据的关键功能。

• 开发个性化应用程序： 教程将指导开发者如何利用LangChain开发能够访问用户个人数据的智能应用程序。

• 学习高级功能： 通过学习文档加载与切割、向量数据库、词向量、检索、问答和聊天等高级功能。

• 深化LangChain框架理解： 帮助开发者深化对LangChain框架的理解和应用。

• 个性化应用开发基础：为实现更复杂的个性化应用开发打下坚实的基础。

• 教程内容概览： 包括简介、文档加载与切割、向量数据库与词向量、检索、问答和聊天等部分，每个部分由不同贡献者撰写。

第四部分 使用 LangChain 访问个人数据

让我们快速回顾本部分的主要内容:

1. 使用 LangChain 的多种文档加载器，从不同源导入各类数据。
2. 将文档分割为语义完整的文本块，并讨论了其中的一些微妙之处。
3. 为这些块创建了 Embedding，并将它们放入向量存储器中，并轻松实现语义搜索。
4. 讨论了语义搜索的一些缺点，以及在某些边缘情况中可能会发生的搜索失败。
5. 介绍多种高级检索算法，用于克服那些边缘情况。
6. 与 LLMs 相结合，将检索结果与问题传递给 LLM ，生成对原始问题的答案。
7. 对对话内容进行了补全，创建了一个完全功能的、端到端的聊天机器人。
   通过学习本部分内容，我们已经掌握了如何使用 LangChain 框架，访问私有数据并建立个性化的问答系统。这是一个快速迭代的领域，希望您能持续关注新技术。
   期待看到大家将知识应用到实践中，创造更多惊喜。让我们出发，继续探索语言模型和私有数据结合的无限可能!