ZhangJiqun&191cm&85kg

介绍了LLM中RAG技术的完整流程案例，主要分为知识组装和Prompt指令两个部分。在知识组装阶段，通过domain_knowledge.py按业务域分类合并知识条目，并优先采用profile自定义条目。在Prompt指令阶段，通过llm_sections.py将知识列表转换为带标题的Prompt文本，并明确使用规则。最关键的是在Prompt中提供详细的推理链指令，指导LLM结合工单事实和知识库进行四步分析：提取事实、反推机理、定位根因、给出整改方案。完整调用链展示了从知识存储、组装、合并、下发给LLM

什么是代理代理就是**中间人**：请求不直接从 A 到 B，而是 A → 代理 → B。对方看到的是代理，不一定直接看到真正的发起方或真正的服务方。

控制平面（大脑，管控整个集群）1. **etcd**：集群唯一数据库，存所有集群状态、配置数据2. **kube-apiserver**：唯一入口，所有操作（创建服务、删Pod）都走它，权限校验3. **kube-controller-manager**：各类控制器，负责保证实际状态=你定义的期望状态（容器挂了就重建）4. **kube-scheduler**：调度器，决定把容器调度到哪一台服务器节点

Cursor的全权限模式，本质是把“安全控制权”完全交还给用户。对于熟悉AI行为、能把控代码风险的开发者来说，它能把AI编码的效率提升一个量级——从“一步步指导”变成“全自动交付”；但对于新手、或者处理重要项目时，多一层弹窗确认，就多一层安全垫。

Cursor Skills 基础指南摘要 Cursor Skills 是一种可被 AI 按需加载的"能力包"，主要由技能文件夹和 SKILL.md 文件组成。它采用渐进式加载机制解决上下文窗口限制问题： 元数据（name + description）常驻系统提示 SKILL.md 正文仅在相关时读取 引用文件/脚本在显式调用时加载 技能分为三种作用域： 全局级（用户家目录）：个人通用技能 项目级（仓库根目录）：团队共享技能 嵌套级（子目录）：Monorepo 专用技能 创建方式包括： 使用 /create-

PCA通过寻找数据投影后方差最大的方向（主成分）来降维。核心步骤包括：1）计算协方差矩阵；2）特征分解得到特征向量（投影方向）和特征值（方差大小）。第一个主成分（PC1）对应最大特征值的方向，后续主成分与前一主成分正交且方差依次递减。特征值量化了各主成分的信息量，方差越大说明该方向信息越丰富。实际计算中PCA通过矩阵运算高效求解，无需遍历所有方向。该方法通过保留高方差方向实现数据压缩和特征提取。

> **"数据集是 True/False" 只是最终标签的形式；"比对事实元素" 这一步早在标注阶段就做完了（或在评估时用 Judge/NLI 补做）。** > **判别式**数据集（HaluEval 等）测"能不能识别别人的幻觉"，**生成式**数据集（SimpleQA、FActScore、HalluLens 等）测"自己会不会瞎编"—— 前者是间接指标，后者才是真正意义上的"幻觉抑制验证"

提示词压缩技术综述 本文系统分析了提示词压缩的必要性及主流技术方案。核心问题包括成本压力、延迟增加、上下文窗口限制、注意力稀释和显存爆炸等挑战。解决方案分为四类：词元级（如LLMLingua系列）、语义级（如选择性上下文）、结构级和参数级压缩。其中LLMLingua通过计算token困惑度来保留高信息量内容，可实现3-20倍压缩比。选择性上下文则基于自信息理论（I(x)=-logP(x)），通过保留高信息量句子实现段落级压缩。这些技术通过分层处理冗余信息，显著提升了大模型处理效率，同时保持语义完整性。

自信息就是logist：P(token∣context) 就是语言模型的输出——通过 Transformer 前向传播 + Softmax 归一化得到。它是所有生成、评估、压缩算法的基础。理解这一点，就理解了 LLM 的核心机制。

本文深入解析了RoPE（旋转位置编码）的核心原理及其在长文本处理中的局限性。RoPE通过将位置信息编码为向量旋转角度，巧妙融合了绝对位置和相对位置信息。文章从物理类比（角速度与旋转）出发，详细拆解了基础角速度θ_i的计算公式及其维度特性（高频/低频维度作用），并列出RoPE的完整参数体系（基础参数、派生量、扩展参数）。针对长文本失效问题，文章对比了PI、NTK、YaRN等主流解决方案的优化思路，指出其本质都是调整旋转角度或基础频率。最后通过配置实例和手动计算演示，帮助读者直观理解RoPE的工作机制。全文系统

Attention Sink = LLM 在训练中"被 Softmax 逼出来的一个技巧"：把用不掉的注意力倒进最开头的几个 token 里。 它是 bug 也是 feature —— 一方面加剧了长文本注意力稀释，另一方面被 StreamingLLM 巧妙利用，让 LLM 能处理近乎无限长的流式输入。

大语言模型的中间层原生不输出概率（仅为隐向量），但可通过Logit Lens技术将其投影到词表空间，生成“伪概率”分布。实验显示，事实知识（如“巴黎”作为法国首都）通常在中后层涌现：早期层多为语法词（如“the”），中后期出现关键实体，最终层概率高度集中。这一现象是DoLa等方法的基础——通过减除前后层概率差来增强事实信号。不同模型的知识涌现位置各异（如GPT-2在6-10层，Llama-2-70B在40-70层），模型越大修正过程越精细。核心代码仅需5行，需注意LayerNorm校准。该方法为

lm_head是Transformer模型中负责将隐藏层向量转换为词表概率的线性层，位于模型末端，通过矩阵乘法计算各词的概率得分。其参数规模巨大（如Llama-3-8B达5.25亿参数），占小模型总参数的5-15%。部分模型（如GPT-2）会与词嵌入层共享权重以节省参数，但大模型倾向独立设计增强表达能力。在技术分析中，lm_head的线性特性使其成为DoLa/Logit Lens等层间对比方法的关键，通过统一投影实现不同层输出的可比性。代码层面，它仅是一个标准的nn.Linear模块，完成从隐藏维度到词表尺

束搜索与LLM内部32层是分离的两个层面：32层负责固定计算并输出词概率分布（logits），束搜索则是在模型外部的解码层运作。它并非在单个词生成时采样候选，而是并行维护多条完整句子路径，根据累计概率剪枝选择最优整句。每生成一个token，模型需运行B次（B为束宽），但束搜索完全不干预32层的内部计算。温度、top-k等参数同样只作用于模型输出后的解码阶段。

本文解析了语言模型生成回答时的内部解码机制。关键点包括：1）模型通过自回归逐token生成，每个token需一次前向计算；2）temperature、top_k、top_p参数在每个token生成步骤中依次作用（缩放概率分布→截断候选词→采样）；3）束搜索（Beam Search）作为替代方案，通过维护多条候选路径寻找全局最优解，计算量约为普通采样的B（束宽）倍。两类解码策略（随机采样/束搜索）通常二选一，最终都输出单次API调用的结果。核心区别在于束搜索追求确定性最优解，而采样路线通过参数调控生成多样性。

如何利用大模型的logprobs（对数概率）功能来检测AI生成内容的可靠性，减少幻觉（错误但自信的回答）。logprobs揭示了模型生成每个词时的内部概率，可用于量化模型的不确定性。文章介绍了OpenAI和Gemini接口获取logprobs的方法，并提出了三个实用场景：设置置信度阈值自动转人工、提升分类任务的可信度判断，以及识别幻觉高发点。同时指出logprobs的局限性——无法检测系统性错误知识，建议结合RAG和工具调用构建更完整的防幻觉方案。通过挖掘模型的内部概率数据，开发者可以在黑盒调

大模型不会主动喊「我不确定」，但 logprobs 会替它喊。读懂这串负数，你就拥有了一台 AI 测谎仪——在它一本正经胡说八道之前，先把它拦下来。

一句话总结：** 调接口（黑盒）时，**模型内部你动不了，但“输入、参数、调用次数、输出校验”这四个口子全在你手里**。核心就两条主线——**RAG + 工具调用**负责“喂对料、外包事实”，**参数约束 + logprobs + 代码校验**负责“收口、兜底、拦截”。

> `finish_reason` 是模型给你的**"结束诊断书"**，而其他参数是**"考前给学生定的规则"**—— > **`temperature` 管心态、`max_tokens` 管字数、`response_format` 管格式、`stop` 管刹车、`seed` 管复现**。 > 五件套配齐，工单分类的稳定性可以提升一个量级。

response_format={"type": "json_object"}的作用机制是通过约束解码强制模型输出合法JSON格式。其核心原理是在API层校验提示词、注入系统指令，并在推理引擎层实时应用JSON状态机，通过Logit Mask屏蔽非合规token，确保每一步生成都符合JSON语法。相比仅用Prompt提示，这种硬约束将格式正确率从85%提升至99.9%，但需注意：1）仍需Prompt包含"JSON"关键词；2）仅保证格式合法，不确保内容真实；3）若需字段约束需改用json_schema模式。

max_tokens 无法保证回答完整性，仅作为输出长度的硬性上限，设置不当反而会导致内容截断（如JSON不闭合）。核心问题包括： 本质矛盾：它是成本限制参数，非完整性保障； 实际风险：设小易截断，设大增加成本/延迟； 关键解决方案： 通过 finish_reason=="length" 检测截断； 强制结构化输出（如JSON）并校验； 自动续写或重试机制； 工单分类场景建议：结合宽松的 max_tokens、JSON校验、finish_reason监控及人工兜底流程，确保业务可靠性。 结论：完整性

本文详细介绍了Cursor AI工具的技能触发机制，主要内容包括： 技能放置位置：必须放在项目级的.cursor/skills/或用户全局目录下才能被识别 三种触发方式： 自动触发：AI根据对话上下文和技能描述自动匹配 手动触发：通过斜杠命令、@引用或显式说明调用 强制手动模式：通过配置禁用自动触发 实际应用示例：展示了代码审查、Git提交格式化等技能的具体触发方法 关键注意事项：技能按需加载、/和@的区别、本地开发技能即时生效等 核心要点：技能正确放置后，可通过AI自动匹配或手动命令灵活调用。

AWS开源Agent SOPs框架解决AI代理开发的核心痛点：在极致控制与极致灵活性之间找到平衡。该框架通过标准化Markdown结合RFC 2119约束的自然语言作为中间层，实现"半确定性"工作流，兼具可靠性与灵活性。关键特性包括：结构化步骤定义、参数化输入、AI辅助创作、进度跟踪与断点恢复。支持跨平台运行，无需专业提示工程或编码能力，可通过链式拼接构建复杂工作流。这一方案将企业级AI自动化从"要么僵化要么失控"的两难困境中解放出来，使非技术人员也能创建可靠的AI工作流程，推动AI从实验性技术向生产级工具

LangChain是一个**给开发者用的工具集**，它让你能够更容易地构建Agent应用，但你仍然是那个需要思考、设计和组织的人。Claude Dynamic Workflows是一个**自主的管理者**，它能够自己理解目标、自己设计流程、自己组织资源、自己执行任务，你只需要告诉它你想要什么结果。这不是谁替代谁的问题，而是两种完全不同的范式。LangChain解决的是"如何让AI按照我的要求做事"的问题，而Claude解决的是"如何让AI帮我把事做成"的问题。

本文介绍了Agent中SKILL调用LLM API的7种核心形式，重点展示了4种典型调用方式：1）直接简单调用，适用于基础任务；2）结构化Prompt模板调用，确保输出一致性；3）函数调用，实现LLM与外部工具的交互；4）链式调用，解决复杂推理问题。每种方式都配有Python代码示例，包括翻译、代码审查、天气查询等实用场景。这些调用形式构成了Agent技能开发的基础框架，可根据任务复杂度灵活组合使用。

本文探讨了大文件LLM处理的工业级解决方案，针对"上下文窗口不足"这一核心痛点提出了5种实用方法。文章首先分析了问题本质：LLM的局部处理能力与业务需求的全局性之间存在矛盾，导致简单分块处理会出现统计失真、关联信息丢失等问题。重点介绍了两种典型方案：1）经典Map-Reduce范式，通过递归总结处理任意大小文件，但存在信息失真缺陷；2）结构化提取+全局聚合方法，特别适合需要精确统计的任务，可确保数据准确性。每种方案都包含适用场景、代码示例和优缺点分析，为开发者提供了可直接落地的技术路径。文章强调，没有放之四

Lint 时的作用- **断链检查**：Lint 遍历所有 `[[ ]]` 链接，检查指向的文件是否存在- **孤立页面检查**：Lint 统计每个页面的反向链接数量，没有反向链接的就是孤立页面- **矛盾检查**：Lint 通过反向链接找到所有引用了某个事实的页面，检查它们是否一致

剖析了LLM应用中Skill与多Agent的本质区别及正确使用方法。核心观点包括： Skill是原子化的执行单元，具有标准化、可复现、低耦合的特性，专注于单一任务的可靠完成；而多Agent是由多个自主决策实体组成的协作系统，能够处理复杂跨领域任务。 文章澄清了常见误区：简单堆砌Skill不等于多Agent系统，真正的多Agent需要独立的决策主体和协作机制。 详细讲解了Skill循环调用的两种模式：内部闭环循环（工业级首选）和LLM驱动循环（灵活性高但需严格约束），并通过SQL查询和PRD迭代案

Prompt工程在AI开发中存在三大短板：不可复用（场景切换即失效）、不可协同（团队标准混乱）、不可工程化（难以规模化）。Agent Skill通过标准化封装大模型能力，实现了模块化、可复用、跨场景的AI协作方式。它像函数一样封装业务逻辑，确保输出稳定可控，支持团队经验沉淀和跨项目迁移。Agent Skills开放标准将AI能力纳入工程体系，推动从"手工作坊"到"工业化流水线"的转变，成为企业级AI落地的终极解决方案，标志着从Prompt工程到Skill工

这篇文章解析了一个自学习型Agent技能的文件结构和自动化机制。目录中包含.js、.ts等配置文件，用于IDE工具集成。核心内容包括： Shell脚本文件(.sh)作为自动化执行引擎，包括： activator.sh：用户指令提交时触发，注入系统级前置指令 error-detector.sh：命令执行失败时自动记录错误 extract-skill.sh：将经验转化为可发布的新技能 TypeScript/JavaScript文件作为跨平台钩子处理器，监听Agent全生命周期事件，实现： 会话自动初始化 任务执

LangChain工具是扩展AI代理能力的关键组件，主要分为三类：信息检索类、代码执行类和文件处理类。信息检索工具如DuckDuckGoSearchRun和WikipediaQueryRun可获取实时网络数据和权威知识；代码执行工具如PythonREPLTool和ShellTool支持代码运行和系统操作；文件处理工具包括ReadFileTool和UnstructuredFileTool等，用于文档解析和内容管理。所有工具都遵循统一调用规范，继承BaseTool基类，通过invok

本文介绍了使用LangChain框架结合火山方舟大模型实现智能体(Agent)的完整方案。文章首先解释了核心概念：LangChain作为开发框架，Agent作为AI大脑，Skill/Tool作为功能工具，火山方舟作为模型服务。然后详细拆解了Agent的5步工作流程：1)初始化大模型；2)定义工具；3)创建Agent；4)接收需求并决策；5)返回结果。重点演示了两个主流工具：互联网搜索(DuckDuckGo)和Python代码执行，并提供了可直接运行的完整代码。通过这套方案，开发者可以快速构建具备自主决策能力

很多人一直在问：大模型从「能说会道」到「能做实事」，到底差了什么？答案就是工具调用。静态的训练数据，永远赶不上动态变化的真实世界；闭源的模型记忆，永远覆盖不了无限的长尾需求。而web_search这类原生工具，本质是给大模型打开了一扇通往真实世界的门，让它不再是一个被困在训练数据里的「语言模型」，而是一个可以主动获取信息、自主完成任务、解决真实问题的「智能体」。你以为加的是一行搜索配置，实际上，你给模型装上了感知真实世界的眼睛，打通了从「语言生成」到「事实落地」的最后一公里。而这，就是大模型

本文介绍了实现LLM Agent网页检索功能的解决方案。遇到的主要问题包括类型错误、配置错误和模块缺失，通过安装volcengine SDK解决。文章展示了最终实现效果截图，并提供了完整的Python代码示例，演示如何调用Volcano Engine的API接口进行网页检索和LLM回答。代码包含API密钥设置、请求头配置、JSON数据构造，以及异常处理和响应解析逻辑。该实现支持通过web_search工具进行关键词检索，并提取LLM生成的文本回答内容。

Function Calling JSON Schema的作用与使用 核心作用： 作为LLM与工具间的智能接口协议，包含工具功能说明、参数规范和执行标准 解决三个关键问题：LLM何时调用工具、如何正确传参、如何协作执行 使用步骤： 定义JSON Schema：详细描述工具功能、参数类型和必填项 注册到LLM请求：通过tools参数将Schema传递给模型 解析响应：处理LLM返回的tool_calls决策 执行反馈：调用工具并返回结果给LLM生成最终回答 效果对比： 无Schema时LLM无法调用工具

摘要： 本文详解大模型Function Calling的JSON Schema规范，适用于OpenAI、豆包、Claude等主流模型。核心结构包括顶层function对象（含name、description、parameters）和嵌套的parameters定义（遵循JSON Schema标准）。通过CSV分析工具和电商用户画像的完整示例，展示了字符串、布尔值、数组、嵌套对象等参数类型的定义方法，并强调description字段需清晰说明功能场景，required列表需与参数严格匹配。规范兼容性强，可直接用

摘要： 大模型中的SKILL与Agent存在本质区别。SKILL是原子化的执行单元，仅能按固定参数完成单一任务，缺乏自主决策能力（如CSV分析工具）。而Agent是智能调度中枢，具备目标拆解、工具调度、异常处理等全闭环决策能力，能处理模糊需求并整合多步结果（如数据分析客服）。两者的核心差异在于：SKILL聚焦“如何执行”，需完整输入且无上下文记忆；Agent专注“何时/如何调度”，支持自然语言交互与多轮迭代。实际应用中，固定任务用SKILL即可，复杂动态场景需依赖Agent协调多个SKILL完成闭环。 关键

AI编程工具Codex与Cursor对比分析 OpenAI Codex是专为软件工程优化的自主编程Agent平台，2026年迭代至GPT-5.5版本，支持40万token上下文窗口，可独立完成从需求拆解到部署的完整开发链路。Cursor则是基于VS Code改造的AI原生IDE，强调开发者主导的实时辅助编码。 核心差异： Codex是"需求进，成果出"的自动化Agent，Cursor是嵌入式AI辅助IDE Codex支持多Agent并行任务和全流程自动化，Cursor专注精细化编码控制

本文介绍了SkillHub与Agent Server的协同实现方案，构建AI Agent生态闭环。SkillHub作为技能托管平台，提供标准化技能的全生命周期管理，包括开发规范、元数据管理、检索推荐等功能。Agent Server是基于LangChain的执行引擎，封装Agent运行能力，支持技能动态加载和多租户管理。文章详细阐述了二者的技术架构、核心功能模块和落地步骤，包括技能规范制定、存储系统搭建、生命周期管理、API对接等关键环节，并提供了代码示例说明如何实现标准化技能封装和LangChain内核集成

一文讲透：Cursor MD技能、LangChain @tool装饰器、核心区别与落地用法一、为什么Cursor生成的技能是MD文件？和LangChain Skill核心区别1. Cursor MD技能的本质Cursor MD技能的运行逻辑2. Cursor MD技能 vs LangChain代码化Skill 核心区别二、LangChain的@tool是什么？怎么调用？1. @tool的核心定义2. @tool是标准的装饰器设计模式实现3. @tool的完整使用与调用方法步骤1：基础定义与