网络工程小王-CSDN博客

原创【HCIE-AI】8.Transformer 架构详解

本文详细解析了Transformer架构的核心原理与关键组件，重点包括：架构本质：采用Attention机制+并行计算，突破RNN的序列处理限制；核心组件：自注意力机制（计算词间关联）、多头注意力（多维度分析）、位置编码（注入顺序信息）、前馈网络（知识内化）等7大模块；工作流程：以"我爱学习"为例展示Encoder的数据处理过程；架构变体：对比Encoder-only、Decoder-only和Encoder-Decoder三种模式； KV缓存：详解推理加速技术，分析其&quot

2026-07-13 00:30:00 219

原创【HCIE-AI】7.Tokenizer 详解

Tokenizer详解：文本与数字的桥梁 Tokenizer的核心任务是将文本转换为模型可处理的数字（Token IDs），主要解决三个问题：切分粒度（词/字符/子词）、词表大小和未登录词（OOV）处理。主流方法包括： Word-level：按单词切分，词表庞大且易遇OOV问题； Char-level：按字符切分，词表极小但序列过长，语义稀疏； Subword（主流）：平衡两者，如BPE算法（GPT/LLaMA采用），通过合并高频相邻字符对构建词表，兼具语义完整性和OOV处理能力。 BPE优势：词表可控、无

2026-07-12 11:00:00 343

原创【HCIE-AI】6.微调数据构造方法

范式一：从种子指令生成└─ 少量种子 + 教师模型 → 大规模扩增范式二：自我改进循环└─ 模型自己生成 → 自己评价 → 自己改进范式三：从教师模型蒸馏└─ 强模型生成数据 → 弱模型学习范式四：从真实数据提取└─ 用户真实交互 / 人工标注。

2026-07-12 01:00:00 406

原创【HCIE-AI】5.数据类型详解

训练精度演进路线：│┌─── BF16 (A100+, 首选)││└─── FP8 (H100+ 推理)精度 ← 效率。

2026-07-11 09:11:23 421

原创 [智能对话系统架构设计文档]

本文档详细介绍了基于LangGraph和LangChain的智能对话系统Agent框架架构设计，重点阐述了从传统Chatbot到智能Agent的范式转变。框架采用分层设计，包含以下核心模块：感知层：通过LLM将用户输入转化为结构化指令（Command对象），而非直接生成文本回复规划层：通过PolicyEnsemble实现确定性策略与AI弹性的混合决策，使用YAML定义业务流程工具层：采用注册表机制实现插件化Action管理，支持动态加载和独立测试记忆层：构建层次化记忆系统（Tracker/Dialo

2026-07-11 07:57:37 315

原创基于主管模式

(yes/no): ")"messages": [{"role": "user", "content": "监控CEO张三的舆情，关注财务相关话题"}]"ceo": {"name": "张三", "title": "CEO", "priority": "P0"},"cfo": {"name": "李四", "title": "CFO", "priority": "P1"},"cto": {"name": "王五", "title": "CTO", "priority": "P1"}

2026-05-18 13:14:14 205

原创【大模型vLLM 使用】学习笔记

微调不是为了训练，是为了用。LLaMA-Factory 给你一个补丁，vLLM 把你的补丁变成服务。

2026-05-17 11:26:20 371

原创 [大模型LoRA微调]学习笔记

LLaMA-Factory 基本都收录了这些新方法，学会它之后改一行配置就能试用。微调 = 好基座 + 好数据 + QLoRA + 迭代评估不需要理解梯度下降、反向传播，也能做出有效的微调模型。

2026-05-17 10:41:54 638

原创【LangGraph 多 Agent 编排详解】学习笔记

单 Agent 的能力有限——一个 Agent 只能持有有限的工具集。当业务场景涉及多个领域（如预订航班和预订酒店），就需要多个 Agent 协作。要素要求示例函数名见名知意，蛇形命名参数名语义清晰，LLM 能理解city参数类型使用类型注解strintList[str]docstring必须写（LLM 理解技能的依据）"""预订航班工具。..."""返回值返回可读的字符串"成功预订了..."操作API创建单 Agent创建 Supervisor自定义移交定义 Skill。

2026-05-16 08:30:40 462

原创【LangGraph 状态持久化（Checkpoint）详解】学习笔记

LangGraph 默认情况下，每次invoke()执行完毕后，State 就销毁了。但很多场景需要跨调用保留状态场景需求多轮对话AI 记住上一轮聊了什么工作流断点续跑某步骤失败后，从失败点继续状态审计查看每一步的中间状态回滚/分支回到历史状态重新执行LangGraph 通过Checkpointer（检查点保存器）实现状态持久化。核心 API：# 编译时指定 checkpointer# 配置 thread_id（会话 ID）。

2026-05-15 00:00:00 554

原创【LangGraph 时间旅行（Time Travel）详解】学习笔记

摘要：时间旅行是LangGraph基于Checkpoint机制的高级功能，允许回到任意执行中间状态修改后继续执行，形成新分支。通过核心API（get_state_history、update_state、invoke）实现四个步骤：执行生成检查点、识别目标状态、修改状态、从新检查点恢复执行。典型应用包括人工纠错、A/B测试和调试，类似Git分支机制。示例展示了故事生成中修改角色后自动适配后续情节的能力，证明该功能在流程控制和状态管理方面的强大灵活性。

2026-05-14 00:30:00 338

原创【LangGraph 流式输出（Streaming）详解】学习笔记

会一次性返回完整结果。但如果图执行时间很长（如调用大模型），用户需要实时看到中间进度而不是等待最终结果。LangGraph 提供方法，支持多种流模式，让调用方可以逐块接收执行过程中的数据：invoke() 模式: 用户输入 → [等待...] → 最终结果stream() 模式: 用户输入 → 步骤1 → 步骤2 → ... → 最终结果↑ 每一步都可以实时获取values和updates都只在节点执行完毕后才输出。

2026-05-13 07:00:00 468

原创【LangGraph 子图（Subgraph）详解】学习笔记

在 LangGraph 中，一个编译好的StateGraph不仅可以独立执行，还可以作为另一个图的节点使用。这种用法称为子图（Subgraph）。父图（Parent Graph）│ │ 子图内部逻辑 │ │parent_messages: list # 与子图共享的数据parent_messages: list # 与父图共享的数据（字段名相同！sub_message: str # 子图私有数据（父图中不存在的字段）

2026-05-10 15:48:58 392

原创【LangGraph的工作流编排能力】学习笔记

LangGraph三大特殊API详解：Command、ContextSchema和Send分别解决了状态流程控制、运行时依赖注入和动态并行分支三大核心问题。Command通过统一返回值实现状态更新与流程跳转的原子操作，适用于中心化路由场景；ContextSchema支持安全注入敏感配置和运行时依赖；Send则实现了Map-Reduce模式的动态并行处理。这三个API共同扩展了LangGraph的能力边界，使其从静态流程图升级为支持运行时自适应的动态图系统，可组合应用于复杂的工作流编排、多Agent系统和批量

2026-05-10 10:24:03 505

原创【LangChain 工具调用详解】工具篇

@tool"""两个整数相加"""# 调用工具# 查看工具元信息print(f"{add_number.description=}") # add_number.description='两个整数相加'print(f"{add_number.args=}") # 参数字段定义更清晰的参数描述更好的类型验证支持默认值、默认值校验等高级功能"""..."""pass工具调用要点概念说明@tool 装饰器将函数定义为 LangChain 工具。

2026-05-07 18:45:00 440

原创【LangChain 记忆系统】记忆篇

本文介绍了LangChain中的记忆系统实现方案，主要包括三种方法：基础方案使用InMemoryChatMessageHistory实现内存存储，简单但无持久化；进阶方案通过RunnableWithMessageHistory自动管理对话历史，支持多会话；持久化方案采用RedisChatMessageHistory实现跨会话记忆存储。这些方案解决了大语言模型无状态的问题，使对话系统能够记住上下文，其中Redis方案最适合生产环境。开发者可根据场景需求选择不同方案，从开发调试到分布式部署均可覆盖。

2026-05-06 07:00:00 725

原创【LangGraph 基础详解】学习笔记

LangGraph是LangChain生态中的有状态多代理应用构建库，其核心思想是将业务逻辑建模为有向图，由节点(Node)和边(Edge)组成，数据以状态(State)在节点间流转。主要特点包括：四大核心要素： State：共享数据容器(TypedDict字典) Node：处理函数，接收并更新State Edge：定义节点执行顺序 Graph：组装节点和边形成应用关键机制： Reducer：控制状态更新策略（覆盖/追加/累加）条件边：实现动态分支流程节点重试：提升容错能力缓存机制：优化性能典型

2026-05-05 16:29:46 1421

原创 [LangChain Agent]Agent实战篇

本文详细介绍了LangChain框架中的Agent（智能体）技术，重点解析了其核心概念、ReAct推理模式、create_agent高级API使用方法，以及Agent-to-Agent（A2A）多智能体协作架构。文章通过三个实战案例（电商助手、天气查询助手和出行规划系统）展示了Agent的开发流程，对比了Agent与传统链式调用的优势，强调其动态决策、工具调用和循环推理能力。特别深入讲解了A2A架构设计原则、工具封装规范和常见问题解决方案，为开发者提供了从理论到实践的完整指导。附录包含关键概念速查表，帮助快

2026-05-05 15:58:40 574

原创 [Langchain网页抓取与天气查询实战]MCP篇

项目内容功能MCP 服务端提供工具，客户端由 LLM 自动判断调用哪个工具工具(网页抓取)、(天气查询)通信协议组件实现服务端极简版 MCP 服务类，无第三方依赖工具注册装饰器模式客户端LLM 自动判断工具调用工具描述动态生成 OpenAI function calling schema通信协议理解了 MCP 协议的基本工作原理掌握了 LLM Function Calling 的使用实现了 Tool 动态注册和调用机制为 LangChain Agent 开发打下基础。

2026-05-05 09:59:08 415

原创【LCEL 链式调用详解】调用篇-2

摘要： LangChain LCEL（LangChain表达式语言）是一种声明式、函数式组合LangChain组件的语言，核心理念为“一切皆Runnable”。通过管道符|串联组件（如Prompt、Model、Parser），实现顺序链（RunnableSequence）。并行链（RunnableParallel）可同时执行多条子链并合并结果；分支链（RunnableBranch）根据条件动态选择执行路径；函数链（RunnableLambda）用于中间数据转换或调试。串行链通过Lambda转换实现多次LLM

2026-05-04 16:14:31 401

原创 [RAG 与文本向量化详解]RAG篇

本文深入解析了RAG（检索增强生成）技术的完整实现流程，从文本向量化原理到实际应用开发。主要内容包括：1. 文本向量化核心概念：详细讲解Embedding模型的工作原理、主流模型对比及余弦相似度计算方法；2. RAG全流程实现：涵盖文档加载、文本分割、向量存储、相似度检索等关键环节，并提供FAISS向量数据库的实战示例；3. LangChain开发实践：演示如何构建完整的RAG问答系统，包括链式调用、Prompt工程和结果优化；4. 典型问题解决方案：针对依赖安装、路径处理、模型配置等常见问题提供具体解决方

2026-05-04 16:09:58 694

原创【LangChain Output Parser 输出解析器】输出篇

Output Parser 是 LangChain 中用于将大模型自由文本输出转换为结构化数据的工具。最简单、最基础的输出解析器。从结果中提取 content 字段转换为字符串输出。# result 现在是字符串类型将大模型的自由文本输出转换为结构化 JSON 数据（dict 类型）。

2026-05-03 16:23:44 446

原创【LangChain 多轮对话】记忆篇

本文介绍了LangChain实现多轮对话的核心方法。主要内容包括：1)多轮对话与单轮对话的区别，前者能记住历史上下文；2)对话历史管理，包括手动添加消息和使用MessagesPlaceholder占位符；3)多种记忆机制：BufferMemory完整保存历史、TokenBufferMemory控制token消耗、SummaryMemory自动总结、VectorStoreMemory语义检索；4)实战案例展示如何构建带历史记忆的对话系统，包括基础版、进阶版和生产版实现；5)常见问题解决方案，如处理长对话、理解

2026-05-03 16:17:07 430

原创【LangChain Prompt 完整指南】提示词篇

LangChain Prompt 使用指南摘要本文系统介绍了LangChain中Prompt的核心概念和使用方法：消息类型：详细解析SystemMessage（系统角色定义）、HumanMessage（用户输入）、AIMessage（AI回复）和ToolMessage（工具返回结果）四种消息类型及其应用场景模板构建： PromptTemplate用于生成格式化文本（字符串输出） ChatPromptTemplate支持多角色对话（消息列表输出）进阶技巧：包括变量预绑定(partial)、对话历史管理

2026-05-03 15:22:04 482

原创【LangChain 大模型6大调用指南】调用大模型篇

本文介绍了LangChain调用大模型的6种方式，分为同步和异步两类。同步调用包括普通调用(invoke)、流式调用(stream)和批量调用(batch)；异步调用包含异步普通调用(ainvoke)、异步流式(astream)和异步批量(abatch)。文章详细说明了每种调用方式的特点、适用场景和代码示例，并比较了同步与异步调用的选择策略。此外，还介绍了三种核心消息类型(SystemMessage、HumanMessage、AIMessage)的作用及在多轮对话中的应用。最后提供了注意事项和结合消息模板与

2026-05-03 11:44:51 575

原创 DeepAgents 架构设计

本文详细介绍了智能体系统的核心架构设计，包含六大模块：1) Tool配置系统(工具注册/权限控制/沙箱隔离)；2) Memory记忆系统(短期/长期记忆管理)；3) 中间件与人机交互(请求处理管道/确认机制)；4) 高并发与异步执行(任务队列/Worker池/流式输出)；5) Skill技能系统(技能定义/加载/编排)；6) Monitor监控体系(指标/日志/告警/追踪)。系统采用模块化设计，支持权限控制、记忆管理、人机协同、高并发处理等关键功能，并通过完善的监控体系保障稳定性。

2026-05-03 09:00:00 366

原创【基于vllm部署kimi-2.6大模型部署需要考虑的条件】

本文是一份详细的vLLM部署指南，主要介绍如何基于vLLM框架部署kimi-2.6大语言模型的API服务。文章包含以下核心内容：前置知识：解释vLLM推理引擎和kimi-2.6模型的特点，包括247B参数量的MoE架构和128K上下文长度优势。硬件要求：提供显存计算公式和不同显卡配置建议，推荐24GB显存使用int4量化版本。部署步骤：环境准备（驱动、Python、CUDA） vLLM安装与配置模型下载与加载 API服务启动与验证进阶配置：包括多卡并行、参数调优、持久化部署和故障排查方案。实用

2026-05-02 10:22:23 698

原创【企业中小型网络架构设计】

PC(双IP) → 接入SW(Hybrid) → MSTP(分流) → 汇聚SW(VRRP) → 防火墙(策略) → 路由器(NAT) → 互联网。

2026-05-02 09:15:01 1045

原创【DeepAgents简介】个人学习笔记

DeepAgents是一个基于LangChain和LangGraph构建的高级智能体框架，专为处理复杂、多步骤任务设计。它通过四大核心能力（任务规划、文件系统、子代理委派、长期记忆管理）实现智能体执行任务的标准四步流程：1）用户输入指令；2）大模型规划调用子智能体；3）子智能体调用工具执行；4）结果返回整合。框架支持层级和协作两种多智能体架构模式，并可通过Skills机制扩展领域知识。相比底层工具LangGraph和LangChain，DeepAgents提供了开箱即用的高级功能，适用于代码开发、深度研报等

2026-04-26 13:59:26 684

原创【hermes智能体子代理详解】个人学习笔记

在2026年的AI技术版图中，Hermes Agent 以其独特的“自进化”理念，在多智能体协作领域开辟了一条与 LangGraph（编排派）和 CrewAI（角色派）截然不同的道路。它不再满足于仅仅作为一个执行命令的工具，而是致力于构建一个能够随着时间推移、通过经验积累而不断自我完善的智能体生态系统。这种从“静态执行”到“动态进化”的范式转移，使其在处理复杂、长期的自动化任务时展现出惊人的潜力。Hermes Agent 代表了 AI 智能体发展的一个重要方向：从单纯的“工具”进化为可信赖的“伙伴”。

2026-04-21 11:05:05 705

原创【大模型（LLM）的业务开发】学习笔记

在大模型（LLM）的业务开发中，构建一个高性能、懂指令且符合人类价值观的模型，通常遵循一个经典的“四步走”流水线。这四个阶段层层递进，分别解决了模型“懂知识”、“懂指令”、“懂好坏”和“懂对齐”的问题。

2026-04-12 13:12:54 382

原创【Function Calling详解】（学习笔记）

Function Calling是扩展大语言模型能力的核心技术，让AI不仅能对话还能执行操作。它通过四步流程实现：识别用户意图→匹配工具并生成参数→外部执行→整合结果反馈。这种机制突破了模型的知识时效性限制和计算能力边界，避免了"幻觉"答案，可广泛应用于客服、数据分析、个人助理等场景。就像智能助手一样，用户只需表达需求，AI就能自动调用API完成复杂任务，实现从"会说话"到"能办事"的进化，成为构建智能体的关键技术基础。

2026-04-12 11:07:42 323

原创【大模型基础部署】（学习笔记）

《大模型部署全流程指南：从压缩到应用开发》系统介绍了2026年主流的大模型部署技术。在模型压缩方面，重点探讨了量化、剪枝和知识蒸馏三大技术，其中量化可将显存占用减少4-8倍，AWQ等新方法能在INT4精度下实现无损压缩。部署工具部分对比了vLLM、Ollama和Triton等框架，特别介绍了vLLM的PagedAttention技术如何提升显存利用率。推理加速章节详细分析了MoE架构和连续批处理等优化手段，指出这些技术可显著提升吞吐量。最后，文章提出了应用开发的层级化范式，从基础预训练到行业微调再到任务适配

2026-04-12 11:05:37 837

HCIE个人ai学习路径

空空如也