qq_39780701的博客

AI Agent = 大模型 + Harness Engineering（凡是超出大模型范畴的部分，都可归入Harness Engineering的领域）

这篇文章探讨一下 AI “一本正经胡说八道” 的根源。首先我们得知道什么是大模型幻觉。然后尝试简单回答为什么会有幻觉，最后结合OpenAI发表的《语言模型为何产生幻觉》论文来揭示幻觉的本质。

本文介绍了LangGraph框架的两个核心概念：State（状态）和Nodes（节点）。

本文分享了构建优秀提示词（Prompt）的心得与技巧。首先总结了提示词的通用原则：明确性、上下文、结构化和渐进式优化。针对文本生成，提出五要素公式。对于图像/视频生成，强调具象化描述的五要素。

LangChain所提供的两种结构化输出的核心策略，以及如何直接让大模型能具备结构化输出能力，和如何让Agent具备结构化输出能力。

本文介绍了LangChain支持的4种流式输出方式，可实时逐步返回LLM生成结果。支持的流式模式包括：AgentProgress模式（监控执行流程）、LLMTokens模式（实时显示文本）、CustomUpdates模式（自定义数据）和混合模式。通过将invoke改为stream/astream并指定stream_mode参数即可激活流式输出。

短期记忆 = Agent 状态（State） + 检查点持久化（Checkpointer） + 线程标识（thread_id）

AgentState是LangChain中用来表示智能体在执行过程中描述当前状态的核心数据结构。它是整个工作流的“上下文容器”或“共享内存”，在各个节点之间传递，并随着流程推进不断被读取、修改和持久化。所以我一般叫他“运行时上下文状态对象”

LangChain中的Messages是模型交互的基本单元，包含角色(role)、内容(content)和元数据(metadata)。支持多种提示词类型：文本提示、消息对象提示和OpenAI格式提示。消息对象包括HumanMessage(用户输入)、AIMessage(模型响应)、SystemMessage(系统指令)和ToolMessage(工具调用)，支持多模态内容(文本/图像等)。通过标准化消息类型确保跨模型一致性，同时保留直接使用字符串或元组的兼容性。

本文介绍了LangChainV1.0中三种创建工具的方法及其在大模型和智能体中的使用方式。

本文介绍了如何使用LangChain快速搭建基于ReAct范式的智能体。主要内容包括：1）通过create_agent函数创建智能体，只需指定语言模型和系统提示词；2）演示了智能体的基本使用方法，通过inputs字典传递用户消息并获取响应。文章还指出智能体可扩展工具功能，当前示例为基本版本，仅能基于模型知识回答问题。

本文介绍了LangChain的核心组件Models，并给出了接入Chat模型和Embedding模型的方法。

多模态 RAG 是将检索增强生成技术扩展至多模态数据场景的系统架构。主要涵盖以下两个关键维度：富媒体文档问答和多模态输入问答

当前多模态领域，尤其是在信息检索和处理场景下，最具代表性的三条主流技术路线。它们代表了三种不同的思想：空间对齐、路径并行和模态转换。

BERTopic是什么？核心原理与关键步骤？

NLP任务之主题建模是什么？

给大家介绍LlamaIndex的数据加载、数据连接和文本分割。

LlamaIndex四行代码实现一个简单的RAG

初级 RAG（Naive RAG）、高级 RAG（Advanced RAG）、模块化 RAG（Modular RAG）

RAFT 的本质是用检索增强来生成高质量训练数据，再通过微调把“外挂知识”变成“内功修为”。

构建索引阶段、知识检索阶段、增强生成阶段，在不同阶段提升RAG质量方法。

大模型应用开发的4个场景：Prompt、RAG、Agent、微调。

开关推理模型的思考功能的两种方法：1、/no_think 2、enable_thinking

如何通过微调来agent性能？高效微调提升 Agent 工具调用能力的关键是什么?如何设计强化学习中的奖励函数来优化Agent性能？关于为什么强化学习比纯指令微调更适合提升 Agent 的性能?

开源大模型的配置参数中都写了些什么

一、分布式微调训练的有哪些方式？二、工程实践中通信带宽不足对分布式训练的影响？三、如何有效处理多机多卡训练中的单节点故障？四、在多机多卡微调场景中，ZeRO优化器发挥着什么作用？

一、如何进行大模型多模态微调？二、多模态微调的数据集该怎么构建？三、多模态微调的典型应用场景有哪些？

1、微调数据集如何构建？2、大模型微调数据集规模如何预估？3、工业环境下微调数据集应该如何创建?4、强化学习微调需要如何准备数据集呢?

1、什么时候用微调？什么时候用RAG？2、微调的优缺点？RAG的优缺点？3、微调与RAG并不对立，常常结合使用。4、模型微调可能存在哪些风险？5、模型微调和模型蒸馏的区别？

Agent System Overview：大模型Agent四大的组件

如何保证大模型生成内容的合规性？如何对超长文本进行微调训练？

Milvus使用指南

Chroma使用指南

介绍了向量数据库技术是什么，并推荐了4个目前使用最广的向量数据库。

（1）微调主要用来干什么？（2）为什么不选择直接使用微调来实现专业领域问答系统？（3）实际应用中如何实现专业领域问答呢？（4）大模型应用落地的三个方向是？（5）哪些模型参数来控制对话生成的自由度和多样性？（6）RAG的优点有哪些？（7）RAG的缺点有哪些？（8）RAG的核心优势与核心痛点是什么？（9）什么是模态？什么是多模态？（10）多模态有哪些应用场景？

本文介绍了如何安装RAGFlow，并展示了简单的RAG如何创建并使用。

本文还详细介绍了如何在本地通过Docker部署Dify，并配置Ollama模型以快速启动一个聊天助手。

嵌入模型（Embedding Model）的本质在于将高维的、稀疏的数据转换为低维的、密集的向量表示，使得这些向量能够在数学空间中表达原始数据的语义信息。降维表示：嵌入模型能够将文本、图像或其它类型的数据映射到一个连续的向量空间中，这个过程通常伴随着维度的降低。例如，一个包含大量词汇的文本可以通过嵌入模型被表示为固定长度的向量。捕捉语义关系：在生成的向量空间中，相似或相关的概念在空间中的距离较近，而不相关或相异的概念则距离较远。这意味着嵌入模型不仅能捕捉单个词语或数据点的含义，还能反映它们之间的语义关系。

RAG的通用流程？LlamaIndex如何实现RAG？

轻松地将在 Xtuner 中训练得到的模型转换为可以在 Hugging Face 平台上使用的格式，方便后续的应用