- 博客(2)
- 收藏
- 关注
RSS订阅原创 agent 与上下文
agnet 架构第一次被提出是在 2023 年 6 月由 OpenAI 当时的安全团队负责人发表的一篇深度博文：它认为 agent 要有下面的能力Memory通俗来讲一个 agent 要有 Memory，这也是为什么我们需要维护上下文窗口，因为大模型的无状态性质，这个上下文窗口就是它的脑容量，有了记忆也就有了状态，它知道自己当前的状态：要做什么、做过什么Planning有了状态那它自然就能推断出接下来要做什么，这是这就是 PlanningTools 和 Action。
2026-02-26 16:12:46
246
原创 几种大模型训练的区别
《大模型训练三阶段与微调方法解析》 摘要：本文梳理了大模型训练的三大核心阶段：1)预训练阶段构建基座模型；2)增量预训练补充领域知识；3)微调阶段细分为任务适配、偏好对齐和专用任务优化。重点解析了微调技术，包括全量微调的高成本问题及LoRa高效微调方案。LoRa通过低秩矩阵分解实现参数高效更新，既保持模型主要能力，又针对特定任务优化，有效平衡性能与资源消耗。文章还探讨了微调导致的"知识遗忘"现象及应对策略，为实际应用中的模型调优提供了实用指导。
2025-07-06 19:18:52
664
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人