fancyfor的博客

摘要 本文探讨了AI工程化扩展的四个关键问题及解决方案：后台任务解决慢操作阻塞问题，Cron系统实现定时任务调度，Git Worktree隔离并行修改，MCP协议标准化外部工具接入。这些模块共同构成了AI系统的工程化基础，使Agent从演示原型发展为生产级应用。文章详细分析了各模块的设计思路、实现要点和组合方式，强调"模型决策、系统执行"的工程原则，为构建可靠、可扩展的AI运行环境提供了系统化框架。

本文系统探讨了多Agent系统的四个核心层级及其关键问题：1. Todo系统作为单个Agent的执行规划工具；2. Task System实现持久化任务管理和依赖关系；3. Subagent用于隔离执行子任务；4. Agent Team实现长期协作。文章指出多Agent系统的真正挑战在于任务管理、状态同步、通信机制、权限控制和文件冲突解决，而非简单的并发调用。作者通过类比线程池、Actor模型等计算机科学概念，提出了包括任务原子认领、权限冒泡、Worktree隔离等工程实现方案，强调确定性的系统设计优先于事

本文探讨了如何优化AI编码代理（Coding Agent）的上下文管理系统，以解决上下文窗口受限问题。作者提出"上下文工程"概念，强调信息分类存储和按需加载策略，将上下文信息分为静态规则、能力目录、当前工作、压缩摘要和长期记忆五类。系统采用分层压缩策略，从廉价操作（文件落盘、历史裁剪）到昂贵操作（LLM摘要）逐步执行。长期记忆通过结构化文件存储关键事实，而非简单使用RAG。文章还讨论了运行时组装System Prompt、错误恢复机制等实践建议，最终提出一个多层级的上下文系统架构，实现规则稳定、任务清晰、历

这篇文章探讨了构建Coding Agent的最小核心系统，重点分析了Agent循环、工具系统、权限控制和钩子机制四个关键模块。文章指出，一个可用的Agent内核远不止简单的循环结构，而是需要建立完善的协议闭环：Agent Loop通过工具调用和结果反馈实现持续交互；工具系统通过Schema定义和函数注册实现能力扩展；权限系统通过多层验证机制确保操作安全；Hook机制在不污染核心逻辑的前提下支持功能扩展。作者强调，优秀的设计应保持核心循环简单稳定，通过工具扩展能力，通过确定性代码实现安全，并通过边界控制防止无

多模态大模型通过视觉编码器将图片转换为向量序列（视觉Token），再经模态对齐模块映射到语言模型空间进行推理。核心流程为：图片→视觉编码→Token化→模态对齐→LLM处理。这种设计使其擅长高层语义理解，但在处理长截图、小字识别和精确计数时易出错，主要由于视觉Token压缩导致细节丢失、缩放模糊等问题。模型本质是将非文本信息转化为Transformer可理解的序列表示，而非精准的视觉识别工具。

MoE（混合专家）模型通过解耦总参数和单token算力，实现计算效率提升而非显存节省。其核心机制是每个token仅激活top-k专家进行计算，而所有专家仍需驻留显存。例如Mixtral-8x7B总参47B，显存占用与稠密模型相当。大模型（如DeepSeek-V3 671B/37B）普遍采用MoE提升吞吐，而小模型（<14B）仍以稠密为主。MoE优势在于数据中心场景的$/token经济性，但本地部署更推荐稠密模型。关键区别在于：稠密模型全员参与计算，MoE选择性激活专家，虽省算力却需完整显存支持。当前趋势显示

大模型JSON输出优化的五层防御体系 摘要：大模型输出JSON时容易出现结构性错误、字段幻觉等问题，需采用五层防御体系保障输出质量：(1)优先使用模型原生结构化输出能力（如OpenAI的json_schema严格模式）；(2)自部署模型采用约束解码技术（如Outlines/XGrammar）；(3)提示工程加入Schema和Few-shot示例；(4)后处理层进行提取修复校验；(5)重试兜底机制。核心原理是通过语法约束在token采样阶段屏蔽非法选项，配合全链路校验，将JSON错误率从20%降至接近0。建议