大模型LLM
文章平均质量分 93
Dontla
Life is short, I use AI.
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
聚类找不到簇原因分析(聚类失败)(DBSCAN聚类算法、eps参数、Epsilon参数、最大允许距离)
帖子1:ChatGPT 发布新模型帖子2:OpenAI 发布 GPT-6帖子3:今天午饭很好吃帖子4:AI 模型能力提升帖子5:这家餐厅不错帖子1 -> [0.12, 0.45, ...]帖子2 -> [0.13, 0.43, ...]帖子3 -> [0.87, 0.22, ...]...AI相关├── 帖子1├── 帖子2└── 帖子4美食相关├── 帖子3└── 帖子5归为不同簇(Cluster)。DBSCAN 是一种经典聚类算法。原创 2026-06-07 16:39:26 · 285 阅读 · 0 评论 -
IVFFlat索引上下文中聚类介绍(将相似向量分到同一组,称为“簇”,使得组内向量彼此相似(例如用余弦相似度衡量),组间向量差异较大)ANN近似最近邻
在 IVFFlat 中,聚类是“分而治之”的策略离线阶段:用 k-means 将向量数据分组;在线阶段:通过“先找相关组,再组内搜索”大幅降低计算量。这是 ANN(近似最近邻)索引实现高效搜索的核心思想之一。原创 2026-05-28 17:57:32 · 480 阅读 · 0 评论 -
Claude Code(Codex)中文提示词与英文提示词差异(RFC征求意见稿、ADR架构决策记录文档)Claude提示词、Codex提示词
这是现在很多 AI 工程团队真实做法。例如:我希望系统从社媒发现用户痛点再比如:后续进行价值评估。原创 2026-05-22 01:57:06 · 528 阅读 · 0 评论 -
LangFuse与LangSmith区别
就像Android有官方Play Store,也有第三方应用市场一样,两者满足不同用户的需求。原创 2026-05-21 23:50:42 · 606 阅读 · 0 评论 -
Multi-Agent多智能体项目如何从MVP过渡到生产项目?
Features:真正高级的 portfolio:“看我会写agent”“看我如何把一个AI demo演化成真正系统”这才是 AI 工程师最稀缺的能力。原创 2026-05-21 18:42:17 · 575 阅读 · 0 评论 -
Agent runtime介绍(一个负责驱动Agent生命周期、状态、任务执行、工具调度、上下文管理的运行环境)比工作流引擎更底层,未来AI时代的操作系统
Agent Runtime 本质上是:一个负责驱动 Agent 生命周期、状态、任务执行、工具调度、上下文管理的运行环境。JVM 对 JavaNode.js 对 JavaScriptKubernetes 对容器Temporal 对工作流能力说明生命周期管理Agent 创建、暂停、恢复、销毁状态管理Tool 调度调用外部 API / MCP / 函数Workflow 执行推理链、任务图、DAG多 Agent 协作Agent 间通信事件驱动Event Loop。原创 2026-05-19 18:57:57 · 1349 阅读 · 0 评论 -
(小浪)LangGraph多Agent教程笔记(多智能体)
Langchain比较适合单一任务,Langgraph适合生产环境代码演示。原创 2026-05-18 17:10:59 · 543 阅读 · 0 评论 -
Transformer架构介绍(自注意力机制:每个token都会查看其它token, 判断谁对自己最重要、位置编码、QKV机制、多头注意力、前馈神经网络FFN)
模块作用Embedding文本向量化引入顺序建立 token 关系Multi-Head多角度学习FFN非线性变换Residual深层稳定LayerNorm训练稳定Mask防止偷看未来。原创 2026-05-17 23:53:25 · 503 阅读 · 0 评论 -
LangGraph基本概念与编码思路(状态、节点、边)(有向图工作流)State状态合并、Conditional Edge条件边、LangGraph原理、LangGraph概念
LangGraph 是一个:基于 Graph(图)模型的 AI Workflow 编排框架。LLM 多步骤任务如何组织?用户问题↓意图识别↓工具调用↓RAG 检索↓LLM 推理↓结果校验↓输出循环条件分支状态共享多 Agent 协作长生命周期 Workflow有向图工作流(Graph Workflow)这张图片清晰地展示了在分布式处理系统中,如何通过共享状态机制确保所有处理节点操作同一数据视图。原创 2026-05-17 17:14:52 · 657 阅读 · 0 评论 -
有向无环图(DAG)在Multi-Agent系统中的应用(图编排、动态DAG、Dynamic DAG)动态Agent Graph
Directed → 有方向Acyclic → 无环Graph → 图结构简单来说:DAG 是一种“节点之间存在方向,但不能形成循环”的图。A → B → C\ ↑→ D → EA/B/C/D/E 是节点(Node)箭头代表依赖关系(Dependency)数据流只能单向流动不允许出现:因为这会形成循环(Cycle)。DAG 在 Multi-Agent 中:本质上承担:“智能工作流编排层”它解决的核心问题不是:“如何调用 LLM”如何组织复杂 AI 系统。原创 2026-05-17 00:11:51 · 584 阅读 · 0 评论 -
常见多智能体(MAS,Multi-Agent)架构介绍(主管架构、规划执行架构、黑板架构(共享记忆)、P2P架构、层级架构、Swarm蜂群架构)agent架构、智能体架构、Agent网格化
多智能体系统(MAS,Multi-Agent System):指的是:多个 AI Agent 协同完成任务的系统。有自己的职责有自己的上下文有自己的工具有自己的推理能力消息状态任务事件进行协作。多智能体本质:“把复杂 AI 系统拆分成多个专业 Agent 协作。原创 2026-05-16 19:37:07 · 1056 阅读 · 0 评论 -
RAG向量模型维度(向量维度)神经网络训练出来的隐式特征、同一个collection必须固定维度、维度灾难、隐藏层大小hidden size、语义坐标系
本质是:“LLM + 外部知识检索”用户问题↓Embedding 向量化↓向量数据库检索↓找出最相似内容↓拼接 Prompt↓LLM 生成答案核心在于:“如何判断两段文本语义是否相似”而这就是 embedding 模型的职责。Embedding:本质是:“把文本转换成数学向量”"猫喜欢吃鱼"就是向量(Vector)每个数字是一个特征所有数字共同表达文本语义把语言转换成高维数学空间而 embedding 维度:语义表达空间的大小概念本质Embedding。原创 2026-05-15 17:18:30 · 455 阅读 · 0 评论 -
RAG向量存储原理(余弦相似度、欧氏距离、ANN近似最近邻、HNSW原理、混合检索)
本质上是:“先检索,再让大模型生成答案”训练数据有时间截止不知道企业私有知识容易幻觉(Hallucination)无法实时更新知识用户问题↓向量检索相关知识↓把知识拼接进 Prompt↓LLM 基于知识生成答案核心思想:不让模型“硬记忆”,而是“动态查资料”在 RAG 中:一组高维数字“猫喜欢吃鱼”↓可能是 384 维768 维1024 维1536 维本质:用数学空间表达“语义”把语义转换成数学空间向量距离语义检索文本↓Embedding↓。原创 2026-05-15 02:12:10 · 463 阅读 · 0 评论 -
Qdrant介绍(开源向量数据库Vector Database)向量搜索、RAG、高性能向量搜索ANN、HNSW分层可导航小世界算法、Payload过滤、Milvus、Weaviate、距离函数
Qdrant 是一个开源的向量数据库(Vector Database),专门用于存储、管理和检索高维向量数据。它通过高效的近似最近邻搜索(ANN, Approximate Nearest Neighbor)算法,实现毫秒级的相似度查询。简单来说:Qdrant = 向量存储 + 相似度搜索 + 过滤能力语义搜索(Semantic Search)推荐系统(Recommendation System)图像/音频检索大模型 RAG(知识检索增强)🚀 高性能向量搜索🔍 强大的过滤能力。原创 2026-05-06 02:22:26 · 665 阅读 · 0 评论 -
LLM编码surface assumptions(显化假设)介绍(将代码中隐含的、未明确说明的假设和前提条件明确地暴露出来、文档化并验证)
—原创 2026-05-05 16:37:38 · 459 阅读 · 0 评论 -
异步知识库索引管线:与在线问答链路解耦架构介绍(离线构建,在线查询)分层索引、ELK:Elasticsearch、Logstash、Kibana
用时间换空间,用离线换在线,用复杂换简单。⚡ 更快的响应速度💰 更低的计算成本🧱 更强的系统稳定性📈 更好的扩展能力如果你正在构建企业级 AI 知识库 / RAG 系统,这几乎是一个必选架构。原创 2026-04-13 01:16:35 · 616 阅读 · 0 评论 -
Claude Skills工作原理介绍(SKILL.md、available_skills、渐进式加载:三层上下文架构、最少惊讶原则)
如果你用过 Claude,你可能注意到它在处理某些任务时表现得异常"专业"——比如生成 Word 文档、创建精美的 PPT、读取 PDF,甚至操作 Excel 表格。这背后的秘密,就是Skills(技能)系统。简单来说,Skills 是一套"说明书"机制:当 Claude 遇到特定任务时,它会先去查阅对应的操作手册,然后按照手册的指导来完成工作。这就像一个经验丰富的工程师,遇到不熟悉的领域不会凭感觉乱来,而是先翻阅文档,再动手操作。原创 2026-04-09 17:57:20 · 653 阅读 · 0 评论 -
(龙虾)OpenClaw(原 Clawdbot / Moltbot)常见部署方式介绍(Linux部署、Windows桌面部署)
系统支持情况推荐程度Linux✅ 最佳⭐⭐⭐⭐⭐Windows(原生)⚠️ 有坑⭐⭐⭐✅ 很好⭐⭐⭐⭐macOS✅ 很好⭐⭐⭐⭐Docker✅ 跨平台最佳⭐⭐⭐⭐⭐Kubernetes✅(复杂)⭐⭐⭐⭐。原创 2026-04-07 12:08:41 · 557 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——54、Agent智能体——Agent项目用户界面开发(app.py)
教程:https://www.bilibili.com/video/BV1yjz5BLEoY代码:https://github.com/shangxiang0907/HeiMa-AI-LLM-RAG-Agent-Dev云开发平台:https://hzh.sealos.run←AI回复你这段 在“能跑”的 demo 形态下没问题,但放到真实生产(多用户并发、长时间运行、需要稳定可观测)会暴露一些明显不足,主要集中在 正确性、性能、可靠性/运维 三块:如果你愿意,我也可以基于你这份代码给出“最小修改版”的原创 2026-03-27 01:22:14 · 438 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——53、Agent智能体——Agent项目Agent创建(react_agent.py)
教程:https://www.bilibili.com/video/BV1yjz5BLEoY代码:https://github.com/shangxiang0907/HeiMa-AI-LLM-RAG-Agent-Dev云开发平台:https://hzh.sealos.run←AI回复结合 里「toC 客服 + RAG + 使用报告」的定位,以及你们 里用 做场景切换的设计,这段 在生产里主要会有下面这些不足(按影响面大致排序)。 每次只构造一条 user 消息,没有会话历史、没有 、没有把「当前原创 2026-03-25 18:43:08 · 721 阅读 · 4 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——52、Agent智能体——Agent项目中间件和Agent创建
请求的数据封装# 执行的函数本身) -> ToolMessage | Command: # 工具执行的监控。原创 2026-03-24 16:25:51 · 531 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——51、Agent智能体——Agent项目tools工具开发(agent_tools.py)
教程:https://www.bilibili.com/video/BV1yjz5BLEoY代码:https://github.com/shangxiang0907/HeiMa-AI-LLM-RAG-Agent-Dev云开发平台:https://hzh.sealos.run已按你的需求改好,修改总结如下:不同环境(如 、)如需覆盖,只需在对应 env 下再写一次 即可,会按现有逻辑与 default 合并。 增加字段从合并后的配置里读取顶层 (即 ),保证未配置时用默认值。便捷方法使用方式示例:当前原创 2026-03-16 16:48:54 · 478 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——50、Agent智能体——Agent项目RAG总结服务开发(rag_service.py)
教程:https://www.bilibili.com/video/BV1yjz5BLEoY代码:https://github.com/shangxiang0907/HeiMa-AI-LLM-RAG-Agent-Dev云开发平台:https://hzh.sealos.run←AI回复总体结论这段实现作为「能跑通 Demo」基本够用,但离「可上线生产」还有不少差距,主要问题集中在:工程结构(耦合与可配置)、可观测性与日志、安全性与健壮性、RAG 质量控制、以及性能扩展性。下面按点说问题和改进方向。强耦合原创 2026-03-15 14:36:56 · 598 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——49、Agent智能体——Agent项目向量存储服务开发(发现大量生产级问题✨factory.py、vector_store.py
教程:https://www.bilibili.com/video/BV1yjz5BLEoY代码:https://github.com/shangxiang0907/HeiMa-AI-LLM-RAG-Agent-Dev云开发平台:https://hzh.sealos.run查看当前 和 ,了解现有结构,然后按图片内容重构并修正。[4 tools called]重构 ,整合图片中的字段,保持 envs 结构,并更新 以支持新字段。[2 tools called]更新 ,支持新字段结构,并删除不再需要的 m原创 2026-03-10 03:09:18 · 434 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——48、Agent智能体——Agent项目配置工具、文件工具(md5、文档加载器、pdf)、提示词加载工具开发
具体实现,对这些配置字段做一次“对齐和精简”,也可以把这些文件建好或贴出来,我帮你把 dataclass 字段和 YAML 结构进一步打磨成“上线可用版本”。优化 prompts.yml 结构,改为使用文件路径配置(符合图片要求),并更新 config_handler.py 的相关部分。检查相关代码,了解当前实现,以便优化 prompts.yml 的结构。,支持“分组 + 文件内部环境区分”的 YAML 结构,同时在。所有更改已完成,代码已通过 lint 检查,符合项目的最佳实践。完成后我会简要总结用法。原创 2026-03-08 15:53:15 · 418 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——47、Agent智能体——Agent项目日志工具和路径工具开发
有没有“必要”:不绝对必须,但这样封装一个统一的get_logger模块在中大型项目里是很常见、也算是合理的实践。是否最佳实践:整体思路是对的(统一格式、控制台+文件 handler、目录管理),但还可以按官方推荐方式再优化一下。原创 2026-03-05 02:50:14 · 442 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——46、Agent智能体——Agent项目介绍(扫地机器人客服、项目分析、代码结构分析、模块职责、生产环境落地建议)智扫通Agent
智扫通 Agent 项目,本质上是一个面向扫地机器人全生命周期服务的 RAG+Agent 智能客服系统。智能问答服务购前咨询:功能、价格、对比等。购后使用:操作指引、故障排查、日常维护等。通过 RAG(检索增强生成),从产品知识库中准确检索信息,再由大模型生成自然语言答案。使用报告与优化建议分析用户的设备使用数据(清扫频率、耗材状态、错误日志等)。自动生成个性化使用报告和优化建议(如清扫计划、耗材更换提醒)。一个懂扫地机器人业务的“智能售前+售后工程师”原创 2026-03-03 14:51:09 · 1336 阅读 · 0 评论 -
Agent ReAct框架介绍(ReAct Agent、ReAct = Reasoning + Acting、ReAct行动框架)问题——思考——工具调用——获得结果——思考——行动——最终结果
ReAct 是由与研究者提出的一种 Agent 推理框架。核心思想非常简单:让大模型在解决问题时交替进行“思考(Reasoning)”和“行动(Action)”。Question↓Thought(思考)↓Action(调用工具)↓Observation(获得结果)↓Thought↓Action↓LLM 负责思考,工具负责执行。让 LLM 像人类一样:先思考,再行动。真正能够解决问题的 AI Agent。原创 2026-03-03 00:19:26 · 956 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——45、Agent智能体——middleware中间件(节点式钩子、包装式钩子、AgentState、after_model、拦截器
查看现有代码文件,了解代码风格和结构。创建,介绍 LangChain 中间件。检查代码是否有错误:验证导入路径是否正确,检查 LangChain 中间件的导入方式:检查中间件的导入路径是否正确。根据图片,中间件应从导入。验证并修正:根据搜索结果,中间件导入路径可能不同。检查并修正导入路径:已创建文件,介绍 LangChain 中间件。原创 2026-03-01 16:25:46 · 1148 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——44、Agent智能体——ReAct行动框架演示(Thought(思考)、Action(行动)、Observation(观察))
我先看看你现有的第36个示例代码风格,然后在同一目录下新增第37个示例文件,实现一个基于ReAct框架的LangChain Agent(含工具定义、思维-行动-观察流程说明和示例调用),保持和前面脚本一致的注释与结构。接下来我会读取36号文件,然后创建新的37号文件。原创 2026-02-27 16:51:08 · 1019 阅读 · 0 评论 -
LangChain Agent流式输出:如何只打印新增消息?(打印chunk消息类型、seen_len、状态快照stream_mode=“values“、工具调用)
很多人第一次用 LangChain 的 Agent,会习惯性只看最终答案(invoke),或者只看chunk[-1]。但其实更有趣的,是把 Agent 当成一个“不断追加日志的系统”每条消息都是一片「思考碎片」;借助seen_len的小技巧,你可以把这些碎片在终端里“实时播放”出来。原创 2026-02-27 15:54:23 · 913 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——43、Agent智能体——流式输出(agent.stream()、结果块chunk、tool calls、stream_mode)
我会先看一下你现有的第35个示例代码风格,然后在同一目录下创建一个第36个示例文件,实现和讲解基于 LangChain Agent 的流式输出。接下来我会阅读第35号文件并据此生成新的示例脚本。原创 2026-02-27 03:18:18 · 686 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——42、Agent智能体——初体验(create_agent()、@tool、type(msg).__name__)
我会参考你现有的 LangChain 示例脚本风格,在目录下新增一个35_...文件,演示使用通义模型和简单工具(查询天气)构建 LangChain Agent 的“初体验”示例,并保持和前面编号脚本一致的注释和结构。接下来我会先查看几份相关脚本,然后创建新的示例文件。我已经查看了你现有的通义 ChatTongyi 和 StrOutputParser 示例代码,会按照相同的结构和注释风格,在目录里新增一个。原创 2026-02-27 01:38:06 · 902 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——41、Agent智能体——Agent介绍(大模型代理、调用工具tool calls)
教程:https://www.bilibili.com/video/BV1yjz5BLEoY代码:https://github.com/shangxiang0907/HeiMa-AI-LLM-RAG-Agent-Dev云开发平台:https://hzh.sealos.runᅟᅠ ᅟᅠ ᅟᅠ ᅟᅠ ᅟᅠ ᅟᅠ ᅟᅠ ᅟᅠ ᅟᅠ ᅟᅠ原创 2026-02-26 17:32:07 · 616 阅读 · 0 评论 -
大模型Transform架构介绍(Attention机制、自注意力机制、Multi-Head Attention、FFN、位置编码Positional Encoding、ViT)
Transformer 的本质是:基于自注意力机制的可扩展序列建模框架。它之所以成为大模型核心,不仅因为结构创新,更因为其高度可扩展性与硬件友好性。从 2017 年的论文提出,到如今支撑全球范围的智能系统,Transformer 已成为 AI 时代的“操作系统”。原创 2026-02-26 17:12:01 · 1100 阅读 · 0 评论 -
LangChain影响流式输出的原因排查(.stream() / write_stream()、stream=True、streaming=True)不流式输出
在做 RAG / Chat 应用时,大家都很喜欢「逐字刷屏」的流式体验。明明用了.stream(),页面却只是「转一会儿,然后一下子出整段答案」。从模型、链路到前端 UI,各层面有哪些常见原因会「悄悄干掉」你的流式输出,并给出排查思路。原创 2026-02-26 16:17:39 · 1266 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——40、RAG项目(服装商品智能客服)——聊天页面开发(会话列表、历史消息、新回话、历史记录、删除会话、新建会话、流式输出)
用 Streamlit 提供聊天界面,并支持多会话管理(新建/删除)和流式回答。接下来我会一次性生成这个文件,然后跑一次静态检查,确保没有明显语法问题。我先看看现有的 RAG 代码和已有的 Streamlit 文件结构,了解要调用哪些函数,然后帮你新建。:实现一个简单聊天界面,支持流式回答、会话历史、新建/删除会话。的同步更可靠,修复“需要点两次才能切换”的问题。的用法,用自然语言说明写入到文件的大致时机,全程不会改任何代码。),2)设计会话管理与流式接口,3)创建。和文件历史模块,直接创建一个新的。原创 2026-02-26 04:12:15 · 804 阅读 · 0 评论 -
黑马大模型RAG与Agent智能体实战教程LangChain提示词——39、RAG项目(服装商品智能客服)——历史会话记录功能的实现(get_history函数、历史记录、聊天历史)
教程:https://www.bilibili.com/video/BV1yjz5BLEoY代码:https://github.com/shangxiang0907/HeiMa-AI-LLM-RAG-Agent-Dev云开发平台:https://hzh.sealos.run参考文章:LangChain打印调试函数debug_runnable()(RunnableLambda、透明节点、打印链、调试链、打印Chain、透传节点、副作用节点、打印Document对象、打印消息对象)查看项目结构,准备实现文件历史原创 2026-02-25 02:23:48 · 1397 阅读 · 0 评论 -
LangChain VectorStoreRetriever如何加入链?(使用Runnable组合、使用create_retrieval_chain)
prompt| llm将加入链的本质是:把“检索”作为一个 Runnable 节点插入到数据流中。Retriever 是 RunnablePrompt 是 RunnableLLM 是 RunnableParser 也是 Runnable因此所有组件都可以自由组合。使用 LCEL明确分离 retriever 和 combine_docs控制检索策略做好文档格式化。原创 2026-02-25 00:19:59 · 835 阅读 · 0 评论 -
LangChain打印调试函数debug_runnable()(RunnableLambda、透明节点、打印链、调试链、打印Chain、透传节点、副作用节点、打印Document对象、打印消息对象)
这个函数体现了一个重要思想:在声明式链式架构中,调试节点本身也是节点。不破坏数据流可组合可插拔与业务逻辑解耦在流式架构中也常见。在 LangChain 这种声明式链路系统中:可观察性 = 开发效率虽然简单,却是构建复杂链路时的必备工具。当你的链条超过 5 个节点时,强烈建议引入可插拔调试节点,否则排错会非常痛苦。原创 2026-02-24 23:17:43 · 1036 阅读 · 0 评论
分享