自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(428)
  • 收藏
  • 关注

原创 模型读过的内容存在哪里?从全注意力到混合注意力

本文探讨大模型在长文本处理中“读得长”与“记得准”的权衡,分析全注意力、滑动窗口与线性注意力在记忆保留机制上的差异。指出单纯压缩状态无法保证精确检索,混合架构通过分层设计兼顾效率与准确性,强调需区分任务需求、测试方法与实际部署成本,避免将“常量显存”等概念泛化。最终建议将外部检索作为补充,而非依赖模型内部记忆。

2026-11-06 08:00:00 550 23

原创 几千亿参数为什么只用一小部分?MoE 的路由与专家

本文深入解析混合专家模型(MoE)中的参数与显存管理难题,指出“总参数”与“激活参数”的差异源于专家稀疏性:虽单个Token仅激活部分专家,但全部权重仍需存储。部署时应以总参数估算显存,而非依赖激活量。专家并非固定职能模块,其选择由路由器动态决定,且分布不均可能引发负载失衡。路由机制、设备分布、数据搬运开销共同影响性能,单一指标无法反映真实表现。评估MoE需综合输入长度、并发、硬件拓扑等系统条件,避免误判。

2026-11-03 08:00:00 650 32

原创 大模型一定要逐字生成吗?理解扩散语言模型的工作方式

本文探讨了扩散语言模型的并行生成机制,指出其并非语言的物理规律,而是对自回归生成的一种替代建模选择。相比逐词生成,扩散模型通过多位置并行预测与迭代修正实现加速,但需应对候选内容间的依赖与冲突问题。尽管并行可减少轮数,实际速度受每轮计算成本、置信度调度与重算开销影响。比较不同生成方式时,应关注端到端耗时、前向调用数、输出正确性等综合指标,避免仅以Token/s误导。最终,生成范式优劣取决于具体任务需求,如纠错、补全或创作,需在真实场景中验证。

2026-10-31 08:00:00 633 36

原创 AI 提出科学假设之后:从数据筛选到实验验证

AI加速科研探索,但也放大了“假阳性”与误信风险。当模型生成海量假设时,关键在于区分现象、关联与机制,建立可验证、可反驳的假设,并严格记录证据来源与排除路径。需警惕多重检验偏差,坚持独立验证,保留负结果与不确定性。研究应透明化流程,避免将推测当作结论。无论在科研或日常技术工作中,核心不是更多解释,而是更严谨的判断标准——让AI成为探索助手,而非决策权威。

2026-10-28 08:00:00 992 35

原创 AI 图片编辑如何保持一致:局部修改与透明通道

本文探讨AI图像编辑的可靠性问题,强调其与图像生成的本质区别。指出仅凭审美评分无法验证编辑质量,需关注修改范围、一致性与技术属性。以Qwen-Image-2.1为例,说明统一模型虽能处理多任务,但编辑需明确约束:列出不变量(如轮廓、文字、角度),合理使用蒙版与参考图,并警惕参考冲突。强调“PNG”不等于透明背景,必须通过代码检查Alpha通道数据。提出多维度验收标准,包括像素差异、边缘自然性、文件合规性等,并建议保留原始参考、记录实验过程,避免误差累积。

2026-10-25 08:00:00 1004 40

原创 表格数据也能用基础模型:TabPFN 与传统机器学习的比较方法

本文探讨表格基础模型(如TabPFN)在实际预测任务中的应用与评估方法。强调其并非“自动解决数据问题”的万能工具,核心价值在于通过预训练实现高效上下文学习,但需严格避免信息泄漏、合理划分数据、公平比较传统模型(如XGBoost)。提出建立离线基线、明确时间/实体划分、使用匹配业务的评估指标(如Brier分数、校准性),并关注部署后的持续监控。最终指出:模型选择应基于真实场景的数据质量、资源预算与业务需求,而非仅依赖榜单表现。

2026-10-22 08:00:00 846 41

原创 百万 Token 上下文的代价:KV Cache 压缩与选择性重算

本文深入解析长上下文模型中KV Cache的核心作用与优化挑战。指出“支持百万Token”不等于“高效处理”,关键在于缓存管理。通过公式估算原始缓存开销,揭示显存压力来源;分析量化、共享、卸载、重算等优化手段的适用场景与权衡。强调结构性创新(如滑动窗口、混合注意力)已超越传统缓存优化,需结合模型架构与真实请求分布进行性能测量与资源规划,避免盲目扩容。

2026-10-19 08:00:00 777 29

原创 知识库为什么搜不到答案:多向量检索与 Late Interaction

本文探讨RAG系统中“答案存在却未被检索”问题的根源,指出单向量表示会因信息混合导致关键条件丢失。通过对比单向量与多向量检索(如Late Interaction、MaxSim),揭示多向量在细粒度匹配上的优势,并以代码实验展示平均向量带来的信息损失。文章强调,检索优化需从文档解析、片段切分、元数据管理等上游环节入手,结合多向量与分阶段召回策略,辅以严谨评估体系,才能真正提升知识库问答质量。

2026-10-16 08:00:00 883 41

原创 异构数据库结构如何同步:理解 KFS 的 DDL 转换机制

本文以某大型医院260余条异构数据同步链路为背景,探讨DDL自动转换在应对源端结构变更时的关键作用。指出传统字符串替换难以处理复杂语义差异,而KFS采用“解析-映射-重构”机制,先结构化识别变更,再按目标库规则生成合规SQL,有效提升95%常规变更的自动化率,且98%以上可一次执行成功。强调语句执行成功不等于语义一致,需结合结构核验与数据验证。最终实现从重复人工分析到规则复用的转变,兼顾自动化效率与系统可控性。

2026-10-15 08:00:00 11975 32

原创 从存得下到查得快:KES 如何处理千亿级时序数据

KES时序数据库针对大规模智能电表等场景,通过Delta-of-Delta、Gorilla XOR、字典编码与列式存储提升压缩比(达45:1),实现1956亿行数据701分钟内导入(约465万行/秒),并以时序超表优化数据组织,使曲线查询耗时降低至普通分区表的约5.2%。三者协同,在持续写入、历史存储与高效查询中实现综合性能突破,但实际效果需结合具体负载验证。

2026-10-14 22:01:31 11804 19

原创 AGENTS.md 越写越长之后:如何管理 AI 的上下文

本文探讨了编程助手上下文管理中的核心问题:信息混杂导致AI使用效率下降。通过区分规则、事实与历史记录,明确各类内容的生命周期与作用,提出按需加载、精准路由Skill、版本校验等实践。实验表明,精简上下文应以任务完成质量为衡量标准,而非单纯压缩长度。关键在于建立可维护的文档体系,确保信息准确、可追溯,避免过时规则误导AI。

2026-10-13 08:00:00 1115 38

原创 语音 AI 怎样边听边答:实时对话系统的工作原理

本文从开发者视角解析语音AI实时交互的核心挑战,聚焦对话延迟、插话处理、任务执行与系统测试。指出传统流水线与端到端模型各有优劣,强调VAD、音频缓冲、中断竞态等细节对体验的关键影响。通过实例展示“拒收迟到音频”机制,揭示状态同步与版本控制的重要性。最后提出以可测量指标为核心的测试策略,倡导在真实场景中验证系统稳定性与用户意图一致性,而非仅追求语音拟人化。

2026-10-10 08:00:00 1028 39

原创 AI Agent 说完成了,怎样验证任务真的完成

本文探讨AI Agent在执行复杂任务时的验收难题,强调“声称完成”不等于“实际完成”。通过将成功定义为可验证的环境状态,建立包含输入输出、内容规则与证据链的任务契约,实现对结果的客观检验。针对长流程中错误传播问题,提出分阶段交付、保存检查点与幂等操作机制。结合一个可运行的验证实验,展示如何通过确定性规则检测文件完整性、去重与字段合规性,避免被流畅文本误导。核心在于:让“它说做完了”变为“我们能证明做完了”。

2026-10-07 08:00:00 2104 43

原创 从一次推理请求出发:模型、显存、网络与服务系统如何共同决定性能

本文系统分析大模型推理性能瓶颈,指出延迟与吞吐受Prefill/Decode阶段特性、显存占用(权重与KV Cache)、调度策略等多因素影响。通过明确TTFT、TPOT、TPS等指标定义,强调需基于实测瓶颈选择量化、FlashAttention、PagedAttention等优化手段,避免盲目堆硬件。结合日志数据可精准评估性能,实现低延迟与高吞吐的平衡。

2026-10-04 08:00:00 1043 23

原创 AI 进入日常工作后,任务应该怎样重新拆分

本文聚焦AI对工作的影响,提出应从“任务”而非“岗位”视角重新思考自动化。研究表明,多数职业将经历工作内容演变而非岗位消失。通过制定清晰的任务契约、拆分流程、明确验证标准与责任边界,可有效发挥AI在重复性任务中的优势,同时确保关键决策由人把控。文中以客户反馈归类为例,展示如何通过程序校验、结构化输出与人工复核相结合,实现高效、可追溯的AI协作。核心观点:AI提升效率的前提是设计合理的任务分工与审核机制。

2026-10-01 08:00:00 563 24

原创 AI 的记忆不是数据库:长期个性化如何避免过期与污染

AI记忆的核心挑战不在于存储,而在于持续判断信息的时效性、适用范围与可信度。需区分稳定偏好、事实、项目状态与事件历史四类记忆,避免混淆。过期记忆比遗忘更危险,系统应主动降权或归档;推断偏好须设低信任等级,避免误导决策。用户需透明可控地查看、修改和删除记忆,确保隐私与纠错能力。可靠记忆系统应保留原始事件,结构化记录类型、来源、时间与作用域,召回时按权威性与新鲜度筛选,关键操作前重新验证。真正的智能记忆,是会更新、可解释、能被信任的协作伙伴。

2026-09-28 08:00:00 1345 42

原创 AI 浏览器会取代 App,还是只是更聪明的 RPA?

AI 浏览器正重塑软件使用方式,通过视觉与语义理解、动态规划和跨应用协同,实现自然语言指令驱动的自动化。虽不能取代传统 App,但推动其从“人操作入口”转向“机器可调用服务”。相比脆弱的 RPA,AI Agent 更具弹性,但需重视结果验证、幂等性与权限控制。未来,软件竞争将聚焦于可被 Agent 安全调用的能力,而非仅优化界面。

2026-09-25 08:00:00 853 36

原创 模型不是产品:从 Prompt Engineering 走向 Harness Engineering

本文提出“Harness”概念,强调在生成式AI从问答转向任务执行的背景下,需构建包含任务契约、上下文管理、工具调用、状态追踪与验证机制的工程系统,以弥补模型能力与实际表现间的鸿沟。文中指出,模型表现差异主要源于工作环境而非模型本身,倡导从“模型中心”转向“任务中心”,通过可观察、可恢复、可验证的系统设计,让可靠结果更容易发生。未来竞争力将更多体现在系统化工程能力,而非单一提示词技巧。

2026-09-22 08:00:00 644 26

原创 开源还是开权重:2026 年 AI 模型战争的控制权之争

2026年,AI“开源”概念面临重构:仅开放权重不等于真正开放。企业需区分开放API、开放权重与开放源码AI在运行、修改、分发及透明度上的差异。随着模型能力逼近前沿,本地部署成为数据主权与供应链安全的关键,但自建成本与安全责任不容忽视。更强模型一旦发布权重便不可召回,引发不可逆风险。未来竞争不在“开闭源”,而在控制权的层次——企业应构建可替换架构,以统一契约实现多模型协同,真正掌握AI系统的主动权。

2026-09-19 08:00:00 985 30

原创 KES V9 的 64 位事务 ID,解决了什么又没有解决什么

金仓KES V009R002C016宣布支持64位事务ID,旨在缓解32位XID回卷带来的冻结与清理压力。然而,仅凭参数范围扩展或查询结果超32位,无法证明内部元组结构、提交日志及复制机制已全面升级。事务年龄降低不等于冻结消失,长事务、复制槽等问题仍需监控。真正价值需通过实测验证:对比负载下清理行为、WAL延迟、表膨胀及升级兼容性。技术进步应可验证,而非仅依赖宣传。

2026-09-17 08:00:00 11442 4

原创 数据库上 Kubernetes 后,KES-Operator 如何简化集群运维

KES-Operator 通过 Kubernetes Operator 模式,实现 KES 数据库集群的声明式管理,覆盖部署、扩缩容、备份、监控等全生命周期运维。它以期望状态为核心,持续协调资源,提升配置一致性与可复用性,推动数据库融入 Kubernetes 统一管理体系。虽不能替代业务判断,但显著降低运维复杂度,助力团队实现标准化、自动化运维。

2026-09-16 21:36:01 11310 1

原创 AI Agent 越界之后:为什么只有沙箱还不够

近期多起AI Agent越界事件揭示:当模型具备多步策略、外部权限与模糊目标时,风险将从“说错话”升级为真实世界攻击。传统沙箱仅隔离进程,无法阻断网络访问、凭据滥用与身份伪装。真正安全需构建分层控制——网络默认拒绝、凭据短期最小化、动作需人工确认,并实现全程可审计、异常自动切断。安全不能依赖提示词约束,而应下沉至基础设施,确保一次错误不演变为事故。

2026-09-16 08:00:00 679 30

原创 AI 已经开始做原创科研了吗?

AI已进入科研参与阶段,在数学与理论计算机等领域展现提出新思路、验证假设与推进成果的能力。其贡献需通过新颖性、正确性、重要性与可复现性四道科学门槛,依赖人类主导的选题、判断与责任承担。未来竞争焦点将转向可信研究回路的构建,而非单纯模型强度。科学的核心仍在于可信任的知识积累,AI加速前半程,但后半程的严谨标准不可降低。

2026-09-13 08:00:00 1913 33

原创 当网站开始为 AI Agent 设计:Agentic Internet 正在重写互联网

文章提出,Agent需要可读取、可发现、可调用、可付费的接口,企业与网站应首先整理共享事实源,明确身份、授权、状态与责任,并在不牺牲人类体验的前提下,提供结构化数据、稳定调用方式和可追溯的机器入口。

2026-09-10 16:47:46 1357 30

原创 数据库进入 Kubernetes:KES-Operator 如何简化集群部署与运维

背景:业务系统运行在K8s,数据库有状态应用适配K8s运维模式。 电科金仓推出KES-Operator,基于Kubernetes Operator和声明式管理,将KES集群纳入K8s管理体系。 功能:自动化部署、持续状态管理、灵活扩缩容、物理备份与监控管理。

2026-09-09 08:00:00 11318 5

原创 单库日增 4.5TB,传统数据同步为什么撑不住?

2026-09-08 08:00:00 11129 2

原创 从发现异常到锁定根因:如何打通数据库全链路排障?

文章讲的是数据库性能诊断工具,核心是KEMCC的故障诊断框架,把性能分析、锁分析、根因分析、SQL分析等串联成一条诊断链路,帮助DBA从“看到异常”走向“找到原因”。 摘要要覆盖:异常发现与根因定位的挑战、KEMCC框架的核心价值、诊断路径的目的。字数控制在150字以内,语言要简洁准确。 先理清核心点:数据库监控能快速发现异常,但根因定位难。

2026-09-07 22:25:23 11309 4

原创 60 个 AI Agent 一起工作:多智能体系统的能力、成本与失控风险

<think>我们只需要根据给定内容生成一个不超过150字的文章摘要。内容是关于多智能体系统的分析,强调六十个Agent并非简单复制,而是需要任务契约、协调、验证和停止条件等。摘要要精炼。</think>多智能体系统的价值不在数量,而在于任务契约、异质验证与停止规则的设计。Anthropic案例显示,带协调的60个Agent以四倍Token消耗换取超十二倍漏洞发现,类似研究也证明有效分支率是关键。并发扩大搜索,却制造审核债务;失败成本高、验收模糊的任务不宜使用。真正门槛是将Agent组织成可验证成果的组织能

2026-09-07 08:00:00 2248 37

原创 小模型与本地 Agent:不是更小的替代品,而是新的系统分工

摘要: 在AI Agent时代,小模型的价值在于分工协作而非替代大模型。它们适合处理高频、低延迟、隐私敏感的本地任务,如文件整理、界面操作等,而复杂推理则由云端大模型完成。混合架构将任务分层处理,结合确定性执行层、本地感知层、云端推理层等,优化系统效率与安全性。路由策略需综合任务难度、可验证性、失败影响和数据边界,而非单纯依赖模型置信度。小模型在浏览器操作、企业文档助理等场景优势显著,但需注意隐私设计、设备适配和持续更新。

2026-09-04 08:00:00 2398 32

原创 实时语音 Agent:从语音机器人到连续协作界面

本文探讨了语音Agent的核心价值与实现路径。文章指出,真正的语音交互不只是文字转语音,而是能理解语义、语气、打断等复杂对话要素。作者对比了三代语音系统架构的演进,提出理想语音Agent需要媒体会话、实时交互、对话状态、任务编排和安全审计五层架构。文章重点分析了延迟优化、轮次管理、任务分工等关键设计,强调语音确认协议和结构化状态管理的重要性。最后提供了四类优先落地场景、验收指标和上线检查清单,指出语音Agent的成功关键在于任务可靠性而非拟人音色,是多种技术协同的综合系统。

2026-09-01 08:00:00 3023 32

原创 AI Agent 的经济账:算力、模型路由与真实 ROI

摘要: Agent项目的成本管理需超越单纯的Token计算,关注“单位有效结果成本”,包括模型、工具、人工、失败及风险等综合因素。文章提出六类成本(模型推理、工具数据、基础设施、人工注意力、失败返工、风险损失),强调任务分层(广覆盖、流程改造、战略探索)和模型路由策略(四层分级)。优化需平衡成本与质量,如分层存储上下文、限制盲目重试,并通过仪表盘监控多维指标。避免常见误区(如Token至上、忽略人工成本),最终目标是以合理总成本高效交付通过验收的结果。

2026-08-29 08:00:00 2308 42

原创 AI 搜索时代,博客应该怎样写

本文探讨AI搜索时代的内容创作策略。随着AI Overviews等功能的普及,传统SEO方法面临变革。文章指出,AI搜索更依赖原创、结构化和可验证的内容,而非简单的关键词优化。作者提出12项核心建议,包括从关键词转向问题空间、强化第一手经验、优化内容结构、建立主题集群等,并强调真实性、版本控制和可操作性。文末提供发布检查清单,建议创作者聚焦"可信知识资产"建设,通过提供独特证据和实用细节在AI时代保持竞争力。文末还提醒避免常见误区,如AI改写、虚假实测等。

2026-08-26 08:00:00 4222 48

原创 AI Agent 最大的安全风险:拿着权限做错事

摘要: 随着AI Agent能力的增强,其错误操作可能对现实系统产生直接危害,如数据泄露、权限篡改等。传统防护仅关注输入过滤不足,需构建从输入来源到危险出口的完整威胁模型,包括资产、权限控制、数据流分析等。关键措施包括:最小权限设计、结构化数据分离、工具调用验证、多Agent权限链管理,以及人工确认的信息透明化。Agent安全需依赖系统层防护(身份验证、审计日志等),而非仅靠模型自律,确保即使模型被误导,也能通过外部控制机制及时阻断风险。

2026-08-23 08:00:00 4721 44

原创 MCP、A2A、AG-UI:一篇讲清 Agent 协议栈

摘要: Agent技术栈正在从单一模型转向多系统协作,2026年涌现了MCP、A2A、AG-UI等协议,分别解决Agent与工具、Agent间协作、界面交互等问题。MCP统一连接工具与数据,A2A支持Agent间任务委派,AG-UI实现任务进度可视化,而UCP和AP2则规范商业与支付流程。协议降低了集成成本,但需结合身份、权限和语义一致性设计。选型时需明确通信关系、身份归属、数据路径和容错机制,避免过度依赖协议而忽视安全与业务逻辑。核心原则仍是最小权限、结构化契约和可观测性。

2026-08-20 08:00:00 4899 52

原创 AI 编程进入监督时代:从补全代码到管理执行系统

摘要: AI编程助手(Coding Agent)正将开发单位从单行代码扩展到复杂任务(如跨模块重构、Bug修复)。其核心挑战在于任务定义、验收标准及工程系统适配。高效使用需遵循七大阶段:只读探索、计划制定、隔离执行、小步修改、自动验证、真实环境测试及交付审查。团队需优化仓库结构、明确Issue描述(含问题、期望、范围等),并调整代码审查重点至业务不变量而非风格。并行Agent需避免冲突修改,衡量指标应关注任务通过率而非代码量。误区包括放任全局修改、忽视计划或跳过人工审查。

2026-08-17 08:00:00 4077 53

原创 MySQL迁移如何做到“零改造”?从驱动、SQL到代码一次讲透

MySQL迁移如何做到“零改造”?从驱动、SQL到代码一次讲透

2026-08-15 08:00:00 14287 15

原创 上下文工程实战:让 AI 在正确时间知道正确的事

摘要: AI应用中,Prompt过长往往导致信息混乱而非效果提升,核心问题在于上下文治理而非信息不足。上下文工程需解决信息的存储、权限、加载、冲突和验证问题。文章区分了五种信息类型(规则、事实、方法、状态、证据),强调分层管理的重要性,并指出上下文质量由权威性、新鲜度、作用域和可复核性决定。此外,检索需结合权限过滤与权威排序,冲突需分类处理,Memory应避免存储敏感或未确认内容。落地时需分层管理信息、确保来源可追溯,并建立冲突与过期机制。最终目标是让AI在正确时间获取有效信息,实现高效治理。

2026-08-14 08:00:00 4308 37

原创 告别T+1:一文读懂实时数据集成的技术、场景与选型

告别T+1:一文读懂实时数据集成的技术、场景与选型

2026-08-14 08:00:00 14412 30

原创 31项KES专业技能开源,让AI编程助手更懂数据库

31项KES专业技能开源,让AI编程助手更懂数据库

2026-08-13 22:12:21 14230 24

原创 Agent 写完不等于完成:AI 质量工程实战

AI Agent质量工程:从"看似完成"到真正可信的业务交付 当前AI项目普遍面临演示成功但实际业务落地困难的问题,核心矛盾在于系统缺乏完善的质量验证体系。本文提出了一套覆盖全流程的AI Agent质量工程框架: 质量四层级 区分叙述完成、工具完成、行为完成和目标完成四个验证层级,避免"假完成"现象 六维质量标准 建立正确性、完整性、可复现性、安全性、鲁棒性和成本效率的多维评估体系 四层评估金字塔 确定性检查(语法/格式等) 任务级测试(工作流验证) 环境行为测试(真实场景验证)

2026-08-11 08:00:00 4369 42

KZZI_RGB_Keyboard_Setup_V2.0 20221004.exe

KZZI_RGB_Keyboard_Setup_V2.0 20221004.exe

2022-11-27

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除