应用架构
文章平均质量分 87
人工干智能
IT行业的老黄牛!文章见!不吹牛!能帮你解决技术问题,请直接15013038985(微信同号)
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
LangChain 和 OpenAI Assistants API 在 “工具调用” 的区别
LangChain和OpenAI Assistants API在工具调用机制上存在根本差异。LangChain采用"LLM决策+平台执行"模式,开发者需编写工具调用衔接代码,但可自由接入各类自定义工具;而Assistants API采用"LLM端闭环"模式,由大模型自主完成工具调用,仅支持OpenAI内置工具。前者灵活性高但开发复杂,后者易用性强但受限于平台功能。选择取决于具体需求:需调用私有工具或重视数据隐私时选LangChain;追求快速实现通用功能时选Assis原创 2025-12-30 13:10:06 · 924 阅读 · 0 评论 -
三连创建:client.beta.assistants.create、client.beta.threads.create、client.beta.threads.runs.create
OpenAI中使用assistant的三连创建:创建assistant(assistant = client.beta.assistants.create)、创建线程(thread = client.beta.threads.create)、创建Run(run = client.beta.threads.runs.create)原创 2025-12-29 09:56:24 · 440 阅读 · 0 评论 -
调用client.beta.threads.runs.create后交由OpenAI云服务器端的处理
本文详细解析了OpenAI云服务器端处理Run任务的完整生命周期流程,核心是异步非阻塞的任务管理机制。当客户端提交任务后,云服务经历6个阶段:任务入队(queued)、调度预处理、执行(in_progress)、结果写入Thread、状态最终固化(completed/failed/cancelled)和客户端结果获取。整个过程通过状态转换驱动,客户端需轮询状态来获取最终结果。关键点包括:1) runs.create是异步提交而非等待;2) 结果持久化在Thread中;3) 需通过轮询监控状态变化。这种设计实原创 2025-12-30 09:34:23 · 852 阅读 · 0 评论 -
OpenAI 的核心架构范式——客户端(Client Layer)→ 云服务端(Cloud Service Layer)→ 大模型端(Model Layer)的三层分层架构
OpenAI Assistants API采用三层架构设计:客户端层负责轻量化的请求交互,云服务端作为核心中间件处理任务调度和状态管理,大模型端执行智能推理和计算。该架构通过职责分层实现解耦,采用异步协同机制适配大模型特性,并标准化封装降低开发者门槛。优势包括各层独立迭代、高可用性、易用性和资源管控,平衡了性能与开发效率,是AI服务化的典型范式。原创 2025-12-30 11:12:08 · 1119 阅读 · 0 评论 -
剖析OpenAI 大模型端:它是一个高度封装的分布式系统
摘要:OpenAI大模型端是一个高度封装的分布式系统,采用四层架构设计。基础大模型集群(如GPT-4-turbo)负责推理决策和结果整合;工具执行引擎层实际运行代码解释器等工具;算力调度层管理资源分配;结果标准化层统一结果格式。各层分工明确,形成"决策-执行-整合"闭环,使开发者无需关心底层实现。这种设计将工具调用全流程封装,显著降低了开发门槛,是OpenAI区别于LangChain等框架的核心优势。原创 2025-12-30 12:01:52 · 790 阅读 · 0 评论 -
科普:HTTP端口80和HTTPS端口443
你会发现,有的网址不带端口号,怎么回事?- **HTTP协议默认端口**:HTTP协议的默认端口是80。当用户在浏览器中输入一个没有指定端口的以`http://`开头的网址时,浏览器会自动使用80端口与服务器建立连接,进行超文本数据的传输。- **HTTPS协议默认端口**:HTTPS协议的默认端口是443。HTTPS是在HTTP的基础上通过SSL/TLS协议来加密数据传输。原创 2025-02-24 10:15:37 · 4586 阅读 · 0 评论 -
科普:“git“与“github“
Git与GitHub的关系可以理解为:Git是一种软件工具,而GitHub则是一个在线平台,它们是“一家子”。二者的关联最直接体现在你通过Git在GitHub仓库中clone软件包到你的机器中来。原创 2025-02-20 11:50:37 · 3845 阅读 · 0 评论 -
科普:“拉取镜像”和“下载安装”
拉取镜像和下载安装都需要从网络上获取数据。在拉取镜像时,需要从镜像仓库下载镜像的分层文件;在下载安装时,需要从软件提供商的服务器下载软件安装包。原创 2025-02-19 16:34:26 · 825 阅读 · 0 评论 -
科普:“访问控制”与“鉴权服务”
“访问控制”是定义和实施权限的策略和机制,而“鉴权服务”是在用户尝试访问资源或执行操作时验证这些权限的过程。访问控制为鉴权服务提供了基础,定义了哪些权限存在以及谁拥有这些权限,而鉴权服务则负责在用户尝试访问或操作时验证这些权限。原创 2025-02-13 14:49:04 · 479 阅读 · 0 评论 -
科普:“URL”与“URI”(及URN)
统一资源定位符,用于在互联网上完整地描述网页和其他资源的位置。它提供了访问资源所需的全部信息,包括协议、主机名、端口号(可选)、路径、查询字符串(可选)和片段标识符(可选)。:统一资源标识符,用于唯一标识某个资源。它是一个更广泛的概念,覆盖了URL和URN(Uniform Resource Name,统一资源名称)两种形式。URI可以是抽象的或具体的,而URL则是一种具体的URI,它提供了访问资源的方法。原创 2025-02-12 21:16:32 · 1159 阅读 · 0 评论 -
科普:“数据地图”与“数据血缘”
数据地图”与“数据血缘”在数据管理和分析中扮演着不同的角色,它们之间存在明显的区别,同时也具有一定的联系。原创 2025-02-11 16:52:20 · 970 阅读 · 0 评论 -
身份验证和授权机制(SSO、OAuth、SSH、ABAC、等等)
在信息系统中,身份验证和授权机制是确保系统安全的关键组成部分。OAuth认证在保护用户隐私和安全的同时,实现了第三方应用程序对用户资源的访问和共享。SSH密钥认证是一种既安全又便利的身份验证方式,广泛应用于远程登录、自动化脚本、多用户环境、多台服务器管理以及自动化部署等场景。通过合理配置和使用SSH密钥认证,可以显著提高系统的安全性和工作效率。原创 2025-01-09 10:07:38 · 1665 阅读 · 0 评论
分享