- 博客(11)
- 收藏
- 关注
RSS订阅原创 Temperature、Top-p、Top-k：模型输出的“性格旋钮“
Temperature、Top-p、Top-k：模型输出的"性格旋钮" 这三个参数控制大模型生成文本的多样性与稳定性： Temperature：调节概率分布陡峭度，值越低输出越保守，越高越随机（推荐0.7-1.2） Top-k：仅从概率前k的候选词中采样（简单但不够灵活） Top-p：动态按累积概率截断候选词（主流方案，推荐0.7-0.9） 典型配置： 严谨任务（代码/数学）：T=0-0.3，Top-p=0.1-0.5 普通对话：T=0.3-0.7，Top-p=0.7-0.9 创意写作：
2026-04-27 23:27:18
430
原创 RAG：给大模型外挂知识库
RAG（检索增强生成）是一种让大模型在回答前先检索相关知识的技术方案。文章详细介绍了RAG的核心原理、实施流程和关键决策点。RAG通过将知识存储在外部向量库中，在回答问题时动态检索相关内容，解决了大模型的知识局限性、私域数据缺失和幻觉问题。系统分为离线建库（文档切分、向量化存储）和在线问答（检索相关片段并生成回答）两个阶段。文章对比了RAG与传统LLM的差异，探讨了chunk大小、embedding模型选择、检索数量等关键技术决策，并介绍了高级RAG技术如混合检索、多跳检索等。RAG特别适用于企业内部知识问
2026-04-27 23:25:25
542
原创 Context Engineering：上下文工程
Context Engineering：优化大模型上下文管理的艺术 Context Engineering（上下文工程）是AI工程的关键环节，专注于在有限上下文窗口中高效组织信息。随着模型token容量从4K到百万级扩展，合理管理上下文成为提升性能的核心挑战。 核心原则： 选择性加载 - 只保留与当前任务强相关的信息 智能压缩 - 通过摘要/结构化/滑动窗口减少冗余 位置优化 - 关键信息置于首尾避免"中间丢失效应" 动态检索 - 按需获取外部知识而非全量加载 记忆管理 - 长期记忆独立
2026-04-26 21:03:07
383
原创 Agent 的记忆系统：让 AI 真正“记住你“
AI记忆系统：让智能体真正"记住"用户 记忆系统是智能体(Agent)在多次交互中保留信息、积累经验的关键机制，解决了传统AI"每次对话都失忆"的痛点。不同于临时上下文窗口或RAG知识库，记忆系统让AI能像人类同事一样记住用户偏好、项目细节和过往错误。 核心架构包含四个组件：写入器筛选有价值信息，存储系统(向量+结构化数据库)持久保存，检索器按需查找，应用器将记忆注入当前对话。记忆分为工作记忆(当前会话)、短期记忆(最近摘要)和长期记忆(情景/语义/程序记忆)。 主流
2026-04-26 21:01:16
952
原创 MCP：从使用到原理
MCP（Model Context Protocol）是Anthropic推出的AI模型上下文协议，旨在标准化AI应用访问外部工具和数据的方式。文章首先阐述了没有MCP时开发者需要重复集成各种API的问题，然后介绍了MCP的三层架构：MCP Host（宿主应用）、MCP Client（连接器）和MCP Server（服务提供者）。MCP Server可提供三类能力：Tools（可调用的函数）、Resources（只读数据）和Prompts（可复用的对话模板）。文章还详细说明了如何在Claude Deskto
2026-04-25 21:48:21
418
原创 什么是 Tools
文章摘要： Tool（工具）机制让LLM从纯文本生成升级为能执行实际任务的智能体。它本质上是一个函数加上JSON格式的说明书，模型通过说明书判断何时调用工具，而实际执行由宿主程序完成。完整流程包括：注册工具、模型判断调用、宿主执行并返回结果、模型生成最终回答。工具可实现信息查询、文件操作、代码执行等功能，不同厂商称之为Function Calling或Tool Use。使用时需注意说明书描述的准确性、权限控制和安全验证，避免模型误调用。工具机制是构建Agent的基础，通过标准化工具组和自主调用可实现更复杂的
2026-04-25 21:43:27
450
原创 什么是Harness
Harness 原意是"马具、挽具"——套在马身上、让马能真正拉车干活的那套装置。放到 AI 语境里，模型是那匹"马"，Harness 就是套在它周围、让它真正能把活干成的整套工程。
2026-04-24 13:25:19
432
原创 Agent 的概念、原理和构建模式
Agent 核心概念与构建模式解析 Agent 是由 LLM（大脑）、Tool（工具）和 Loop（自主循环）构成的智能系统，通过"观察→思考→动作"的循环自主完成任务。与 Chatbot 不同，Agent 能自主决定控制流。主流构建模式分为两类：ReAct 模式（边想边做，灵活但易走偏）和 Plan-and-Execute 模式（先规划后执行，稳定但灵活性差）。实际产品常采用混合模式。复杂任务可能涉及多 Agent 协作，但会显著增加协调成本。完整的 Agent 系统需要包含模型接口、
2026-04-24 13:24:43
780
原创 Agent Skill 从使用到原理
本文系统介绍了Agent Skill的概念、结构与应用。Skill是一个包含SKILL.md和相关资源的文件夹，采用渐进式披露机制：先加载元信息索引，按需读取正文，最后执行脚本。它解决了长Prompt膨胀问题，与Tool/MCP形成互补关系，分别关注"怎么做任务"和"能做什么动作"。文章详细阐述了Skill的目录结构、使用场景、实现原理及最佳实践，指出Skill将成为Agent生态中的"包管理器"，实现能力的沉淀与共享。
2026-04-23 22:07:24
559
原创 从LLM到Agent Skill
本文通过一条"因果链"串联AI应用中的核心概念：从LLM（大型语言模型）的基础特性出发，引出Token作为计算单位，进而解释Context和Context Window的运作机制。由于窗口限制和知识更新需求，发展出RAG技术；为提升交互效果产生Prompt工程；为解决执行能力不足引入Tool工具；针对工具标准化问题提出MCP协议；最终演进为Agent及其技能体系（Agent Skill）。文章系统性地揭示了当前AI产品的技术架构，包括LLM的生成式特性、Token计算、上下文管理、知识增
2026-04-23 22:01:03
1238
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人