- 博客(7)
- 收藏
- 关注
RSS订阅原创 RAG从入门到精通系列3：Routing（路由）
作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。然后我们的 Prompt 路由函数 prompt_router 根据用户的问题和每个 Prompt 的语义相似程度（在这里是余弦相似度）选择合适的 Prompt。LLM（Large Language Model，大型语言模型）是一个功能强大的新平台，但它们并不总是使用与我们的任务相关的数据或者是最新的数据进行训练。通过使用 with_structured_output，你可以将模型的生成结果格式化成特定的结构化数据格式（如 JSON 或字典）。
2025-06-13 17:53:21
187
原创 RAG从入门到精通系列2：Query Translation（查询翻译）
LLM（Large Language Model，大型语言模型）是一个功能强大的新平台，但它们并不总是使用与我们的任务相关的数据或者是最新的数据进行训练。也就是 sub-question，是将复杂的问题拆解为多个独立的子问题，每个子问题可以单独处理。在检索和回答过程中，当系统意识到当前的问题太具体或难以直接回答时，退一步改问一个更广泛、更概括性的问题，从而获取更大的上下文信息。这句话也是适合于 RAG，因为我们现在检索的原理就是根据用户的 Query（也就是 Question）的语义去检索相关的文档。
2025-06-12 14:38:55
705
原创 RAG从入门到精通系列1：基础RAG
Retrieval 就是根据我们提出的问题的语义向量（也就是 Embedding Vector）去按照某种距离/相似度衡量方法找出与之相似的 k 个 Split 的语义向量。LLM（Large Language Model，大型语言模型）是一个功能强大的新平台，但它们并不总是使用与我们的任务相关的数据或者是最新的数据进行训练。而且检索过程和生成过程是分开的，这很不方便。目前最常用的就是使用机器学习方法将文本转成固定长度的，可捕获文本语义的 Embedding Vector（嵌入向量）。
2025-06-09 14:23:02
765
原创 一文带你 “看见“ MCP 的过程，彻底理解 MCP 的概念
首先需要在主机上自动或手动配置 MCP 服务，当用户输入问题时， MCP 客户端让 大语言模型选择 MCP 工具，大模型选择好 MCP 工具以后， MCP 客户端寻求用户同意（很多产品支持配置自动同意），MCP 客户端请求 MCP 服务器， MCP 服务调用工具并将工具的结果返回给 MCP 客户端， MCP 客户端将模型调用结果和用户的查询发送给大语言模型，大语言模型组织答案给用户。现在，模型虽然存在速度慢的问题，存在上下文长度限制问题，存在幻觉的问题，存在好用模型价格高的问题等，这些都将逐渐得到解决。
2025-06-04 14:29:48
696
1
原创 2025年，程序员必学技能就是MCP
MCP 就像是大模型世界里的“最后一公里”。说个暴论，MCP 应该是每个程序员在2025年必须掌握的知识点。大模型功能很强大， 我们都是清楚的。但是，它是有短板的。比如大模型的数学不好，知名测试就是让大模型比较，大概半年之前，大部分大模型都会告诉你是9.8小。现在基本都正确了，其实还要归功于 RAG 技术，RAG 技术的原理和 MCP 实际上有异曲同工之妙，都像是个外挂程序，只不过 RAG 挂在了LLM端，MCP挂在了客户端。再比如，大模型在没有联网功能前，它是没办法告诉你实时天气的。
2025-05-30 11:00:01
656
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人