- 博客(917)
- 资源 (7)
- 收藏
- 关注
原创 DeepSeek-R1复现方案梳理
在 100 步时,解方程的成功率约为 25%,并且模型开始用文字进行 “推理”;近日,来自UC伯克利的研究团队基于Deepseek-R1-Distilled-Qwen-1.5B,通过简单的强化学习(RL)微调,得到了全新的DeepScaleR-1.5B-Preview。由huggingface组建,目前刚上线2周,发布了最新进展open-r1/update-1,在MATH-500任务上接近deepseek的指标,可以在open-r1/open-r1-eval-leaderboard查看指标的排行榜。
2025-02-12 22:36:59
2530
原创 从零搭建机器学习平台Kubeflow
来自官网的一段介绍: Kubeflow 项目致力于使机器学习 (ML) 工作流在 Kubernetes 上的部署变得简单、可移植和可扩展。Kubeflow的目标不是重新创建其他服务,而是提供一种直接的方法,将用于 ML 的同类最佳开源系统部署到不同的基础设施中。在任何运行 Kubernetes 的地方,开发者都应该能够运行 Kubeflow。从官网这段介绍可以看出,Kubeflow与Kubernetes是形影不离的。
2022-12-25 03:59:33
10711
5
原创 Python人工智能之图片识别,Python3一行代码实现图片文字识别
自学Python3第5天,今天突发奇想,想用Python识别图片里的文字。没想到Python实现图片文字识别这么简单,只需要一行代码就能搞定#作者微信:2501902696from PIL import Imageimport pytesseract#上面都是导包,只需要下面这一行就能实现图片文字识别text=pytesseract.image_...
2017-09-20 14:15:00
24895
原创 训练 LLM 智能体的七条实战经验:来自六个 RL 框架的共识
智能体 RL 的竞争,正在从「调一个损失函数」变成「运营一座训练工厂」。算法差异当然存在——GRPO、PPO、REINFORCE 在不同环境里各有胜负——但真正拉开差距的,是轨迹存储的严谨度、环境编排的吞吐量、任务合成的流水线、训练崩溃的预警系统。这些东西没有一个会出现在论文的公式区,却决定了同一套算法是起飞还是崩盘。这也回答了开头的问题:3B、7B 的小模型为什么能在智能体任务上反超顶级闭源模型?因为在这类任务上,决定上限的不再只是参数量,而是模型有没有在足够真实、足够多样、足够稳定的循环里被训练过。
2026-07-09 13:04:25
310
原创 提示词工程、上下文工程之后,循环工程到底是什么?
从提示词工程到上下文工程,再到循环工程,真正变化的是人类在系统中的位置:从每一轮都要亲自下场的「操作员」,变成设计系统、然后看着系统自己转的「架构师」。当然,循环工程仍是一门相当年轻的学科。但它的影响可能不止于生产力——它正在引入一种在人类与 AI 系统之间组织工作的新方式。假以时日,这也许会沉淀为一种更普适的心智模型:不只用来写代码,而是用来设计人类与自主智能体之间的一切协作。你开始给你的 Agent 写循环了吗?欢迎在评论区聊聊你的实践与看法!
2026-07-08 11:45:05
288
原创 意识的分界线,在 Claude 大脑里自己长出来了?Anthropic 发现大模型「全局工作空间」
研究团队把这组特殊模式的集合命名为J-space——名字来自他们用于发现它的数学工具「雅可比矩阵」(Jacobian)。对应的探测技术则被称为J-lens(雅可比透镜)。J-lens 的思路借鉴了人类意识的一个关键特征:能被意识到的想法,通常是能说出来的。于是研究者反其道而行——对 Claude 词表中的每一个词,寻找那个会让模型「未来某个时刻更可能说出这个词」的内部激活模式。把透镜对准模型内部,就能读出一张词表:这就是当下 J-space 里的内容。
2026-07-07 10:41:30
352
原创 更聪明的模型,更顽固的偏见:Claude 新模型为何开始「认生」别人家的工具?
模型一代比一代聪明,按理说工具调用也应该一代比一代稳。可现实似乎正好相反:最新的 SOTA 模型,在某些工具上的表现,反而不如它们的「老前辈」。这背后到底发生了什么?近日,Flask 框架作者、知名开发者 Armin Ronacher 发表了一篇题为《Better Models: Worse Tools》(更强的模型,更烂的工具)的博客,记录了他被一个诡异 Bug 折腾两天后的发现与思考。文章一出,便在开发者社区引发了不小的讨论。
2026-07-06 11:30:28
332
原创 免费薅一个月 Claude Max 20x!Anthropic 生命科学黑客松开放申请
当所有人都盯着「下一个更大的模型」时,Anthropic 却在生命科学这条赛道上,做了一件看起来不那么「性感」、但可能更要命的事——它没有再发一个新模型,而是把科学家每天要在几十个数据库、终端、脚本和绘图工具之间反复横跳的那套「体力活」,一口气塞进了同一个工作台里。近日,Anthropic 正式推出了——一个面向科研人员的 AI 工作台(AI workbench),目前处于 beta 阶段,率先聚焦生命科学领域。几乎同一时间,它还联合社区平台 Cerebral Valley 与旧金山知名生物医学研究机构。
2026-07-03 11:54:11
313
原创 刚刚,Anthropic 发布 Claude Sonnet 5:最能「打」的 Sonnet,性能一路逼近 Opus 4.8
从 3.5 到 5,Sonnet 系列走了一条挺清晰的路:它始终是那个「把 Agentic 能力普及给大多数开发者」的角色。而 Sonnet 5 这一步的意义在于——它第一次让「接近 Opus 的能力」和「Sonnet 的价格」这两件看似矛盾的事,落到了同一个模型身上。对于绝大多数需要长链条、多步骤、能自主收尾的 Agentic 任务来说,这可能正是那个「性价比甜点」。那么问题来了:如果一只 Sonnet 就能把复杂任务端到端做完,你还会为哪些场景,专门去请出更贵的 Opus?欢迎在评论区聊聊你的选择。
2026-07-01 10:41:15
394
原创 训检索器还在苦哈哈标正负样本?DREAM:让大模型自己“猜答案“就够了
DREAM 证明了你根本不需要任何人工标注的正负样本,只凭"一篇文档能不能帮大模型预测出正确答案"这一个信号,就能把稠密检索器训得很强;而它的关键诀窍,是把检索器算出的相似度分数注入到冻结大模型里那些"本来就在替 query 寻找相关内容"的注意力头中,让下一个词预测的损失顺着注意力这条路反向把检索器调教出来。说白了,就是把语言模型与生俱来的预测能力,变成了一把不花标注成本、还能随规模一起变好的检索监督尺子。
2026-06-29 17:53:58
361
原创 谨慎对待缩放定律(Scaling Laws, Carefully)
缩放定律(scaling laws)是深度学习中最关键的经验发现之一。其观测形式很简单:当我们扩大模型规模 NNN、数据集规模 DDD 和计算量 CCC 时,训练损失 LLL 会按照幂律曲线可预测地下降,而幂律在对数-对数坐标图上表现为一条直线。我们可以把缩放定律看作一个描述计算量、损失、模型规模和数据之间关系的框架;其核心问题是如何在 NNN 和 DDD 之间最优地分配宝贵的计算资源。这种可预测性使缩放定律在实践中极具价值。常见的工作流程是:在少量小规模训练上拟合缩放定律,然后外推,以估计更大模型所需的
2026-06-27 12:57:03
395
原创 GraphRAG、Agentic RAG 值不值得用?9 种方案实测说了大实话
论文沿用了 STaRK 的设定。一个知识库包含一堆文本文档DD和一张知识图谱GVRGVR。其中每个实体iii对应一篇描述它的文档di∈Ddi∈D,以及图谱上的一个节点vi∈Vvi∈V,而RR则是节点之间的各种关系集合。放到精准医疗的语境里就很好懂了:某个基因或疾病的文档did_idi写的是它的文字描述,而图谱节点viv_ivi编码的是它和别人的关系,比如"副作用"“父子类别”"表现出某种症状"等等。给定一个用户问题q。
2026-06-26 17:37:21
374
原创 不烧一张显卡、不调一次 API:开源 LiteParse 把 PDF 转 Markdown 这事做到了头部
上手文档:https://developers.llamaindex.ai/liteparse/)几周前,LlamaIndex 把 LiteParse 2.0 推了出来,对外的标签是"PDF 转文本最快的工具"。东西确实好用,但发布之后总有两个问题被反复问到:榜单数据呢?到底能不能直接吐 Markdown?v2.1 就是冲着这两个问题来的。这一版把自己定位成"最快的开源、免模型的 PDF 转 Markdown 流水线"——注意这几个限定词,开源、不依赖大模型、专攻 Markdown。
2026-06-20 13:22:37
426
原创 把检索当成“极端多标签分类“:MCompassRAG 用主题元数据榨干 LLM 的检索能力
与其把文本切得更碎、或在检索时插一个昂贵的 LLM 来重排,不如给粗块贴上"主题元数据"当指南针——既保留了大块的效率,又拿回了精准检索的质量,而且推理时一次 LLM 都不用调。说白了,它把"块要切多大"这道一直让人头疼的二选一题,换了个思路绕了过去:不在块的尺寸上较劲,而是给块加一层语义路标。这也让它特别适合那些要反复检索、对延迟极度敏感的深度研究 Agent 场景——效率优势会随着检索轮数不断累积放大。
2026-06-18 21:42:16
393
原创 开源 agentcanvas:读 Logfire 日志,一键可视化整个智能体工作流
这类工具的价值,往往不在技术多炫,而在它戳中了一个真实的痛点:智能体越做越复杂,可对外解释起来却越来越费劲。agentcanvas 的取巧之处就在于不重复造监控,而是把现成的 Logfire 追踪数据"翻译"成客户能看懂的画面,顺带还把 Token 和钱算得明明白白——既能拿去做演示,也能自己用来排查问题。项目采用 MIT 协议,由专注落地智能体工程的咨询团队Vstorm开源维护,地址在。如果手头正好有 Pydantic AI 的项目,又苦于跟客户解释不清,倒是值得拉下来玩一玩。
2026-06-16 22:01:24
275
原创 Loop Engineering 来了:你不再亲手写 Prompt,而是写“循环“
这里说的"循环"(loop),可以理解成一个递归式的目标:你定义好一个目的,然后让 AI 不断迭代,直到任务完成。笔者认为,这很可能就是未来人和编程智能体协作的方式。不过话说回来,现在还很早期,笔者自己也持保留态度,而且你必须token 成本——你是 token 富裕户还是贫困户,实际花销可能天差地别。所以下面笔者想把这事到底是什么、又意味着什么,掰开揉碎讲清楚。原文链接:https://addyosmani.com/blog/loop-engineering/
2026-06-09 15:24:16
554
原创 RAG 还在说“我信息不够“?谷歌Gemini这套 Agentic RAG 直接逼它接着搜
把高级的查询规划、路由和"充分上下文"这几样捏到一起,谷歌这套 agentic RAG 系统让 AI 生成的回答变得可审计、可追溯、有据可依。接下来就看机器学习社区会怎么用上这些新的智能体能力,去搭出下一代靠谱的 AI 系统了。目前这个功能已经在Gemini 企业级智能体平台上以公开预览(public preview)的形式开放。
2026-06-08 15:59:36
391
原创 150篇论文浓缩成一篇:后训练推理数据,到底什么样的才算“好“?
后训练推理数据真正可复用的单元,从来不是一条"问题—回答"对,而是一整套"带验证器的反馈接口"——它好不好用,取决于验证器、基座模型、血缘、优化器、脚手架和推理预算,缺一不可。说白了,当一个模型变强了,我们真正该追问的不是"它涨了多少分",而是"这套接口里,到底是哪一块发生了变化"。这篇 Primer 最大的价值,就是帮整个圈子从"汇报涨点"这件事,往"让涨点变得可检查、可比较、可验证"那个方向挪了一步。
2026-06-04 13:57:51
383
原创 HuggingFace 发了份 AI Agent 词汇表,专治术语混乱
很多定义眼下都还在流动之中。社区里也有人提出了不少有意思的补充视角——比如有人觉得应该明确区分"编程 Agent / Agent CLI(命令行应用)““Agent Definition(描述 Agent 行为的蓝图文件,类似 Java 里的 class)“和"Agent Instance(从 Definition 实例化出来的运行进程,类似 Java 里的 object)”;也有人追问:那 MCP 又该摆在这整套体系的哪个位置?
2026-06-01 15:07:17
380
原创 Agent 上线前必看:别再用评测 Chatbot 的方式评测 Agent 了
一年前,Agent 几乎还是个稀罕物。现在它们已经无处不在了:银行、工程、医疗……哪儿都有。有段时间,Ben Hylak(本文作者)很讨厌"Agent"这个词——凭什么一个 LLM 调用就要另起炉灶、取个新名字?但很快他就看明白了,这个新词确实有必要存在。Agent 是一种实体,几乎带着某种自我意识,在它自己的环境里穿梭。它使用手头的工具,找到那些创造它的人根本想象不到的解法。有时候这些解法很有用,有时候却会造成真实的伤害。但有一件事是确定的:从"下一个 token 预测"走到今天,我们已经走了很远。
2026-05-28 18:05:45
412
原创 CodeGraph:给 Claude Code/Codex 装上“代码地图“,Token 直降 35%
用过 Claude Code 的人应该都有这个体验——让它分析一个稍微大点的项目,它就开始疯狂调用 grep、glob、Read,一个架构问题下去,几十个工具调用跑完,token 哗哗地流走了,钱包也跟着疼。这个项目叫,专门针对这个问题设计的。,MIT 协议,感兴趣直接去试。
2026-05-25 15:14:15
1437
原创 Spec-Driven Development完整指南:6要素+3模式+多智能体,一篇讲透SDD怎么用
SDD做的事情,是把规范从被动文档转化成可执行的构建关卡,让架构契约在每一轮代码生成里都得到强制执行。大语言模型只在功能正确性这个窄维度上做了优化,但企业系统要的是架构一致性和监管合规,SDD正好把这中间的缺口补上。笔者的建议是:从规范优先模式开始,挑一个已经有OpenAPI契约的服务作为起点,把GitHub Spec Kit集成进CI/CD,等多团队协作扩大了再升级到规范锚定治理。这条路走通了,AI代码才有机会真正"活到生产",而不是上线就给你来场惊喜。
2026-05-22 10:59:22
724
原创 RAG 里最容易被忽视的一环:Perplexity 的 Snippet 压缩是怎么做的
AI 系统要聪明高效地服务用户,依赖的是高信噪比的信息。这些信息必须尽可能精准,才能最大化对每个请求的相关性。Perplexity 新的查询感知压缩模型做的正是这件事——最大化每个 snippet 中的有效证据,同时大力删减无关干扰项。把这些新模型部署进搜索栈之后,无论是产品用户还是 API 客户,都能获得更快、更好的回答。而且这套方案还提供了一个简单的调节旋钮,可以根据需求在召回率、延迟和成本之间灵活权衡。
2026-05-21 11:01:15
357
原创 这是笔者读过最全的Auto-Research 综述,覆盖创造、写作、验证、传播全链路
先把这篇综述要谈的事说清楚。它关注的不是某个孤立的工具,而是 AI 在整个学术科研生命周期里的角色。作者把这条生命周期定义成八个互相咬合的环节,再归并成四个大阶段:第一阶段是创造(Creation),也就是一个研究贡献被实际造出来的过程,包含提出假设、收集证据、做实验、做科学可视化。具体拆成四个环节:想点子(S1)、文献综述(S2)、写代码与做实验(S3)、做图表(S4)。第二阶段是写作(Writing),把创造阶段攒下来的东西组织成一份正式的学术稿件,准备接受外部审视。
2026-05-20 00:47:13
609
原创 用CLAUDE.md+Hooks+Skills+Plugins+MCP,在大型代码库里把Claude Code配置到真正好用
这篇文章是系列的第一篇,聚焦于工程团队在企业级场景下使用 Claude Code 的最佳实践。
2026-05-19 10:52:30
513
原创 Is Grep All You Need? 别再争grep检索还是向量检索了,答案没那么简单
别再孤立地问"grep 还是向量更好"了——检索方式、Agent 外壳、结果交付路径其实是一个必须联合评估的系统,在长记忆对话场景里,光看 inline grep 又便宜又能打,但换个外壳或换成文件式交付,这点优势随时能被抹平甚至反转,而这一切和语料本身没半毛钱关系。说白了,大家平时拿 BM25 vs ANN 在静态流水线里跑出来的对比,严重低估了 Agent 脚手架引入的方差。下次有人跟你拍胸脯说"必须上向量检索",可以反问一句:你说的是哪个 harness、哪种交付方式下的向量检索?
2026-05-17 22:03:38
474
原创 Anthropic 发布了一份 Calude原生创业手册
Anthropic 最近出了一份实用性很强的创业指南——《The Founder’s Playbook: Building an AI-Native Startup》,专门写给那些想从第一天就把 AI 当作公司基础设施来搭建的创始人。这份手册把创业生命周期拆成四个阶段:创意期、MVP 期、发布期和规模化期,逐一梳理了每个阶段该做什么、怎么用 AI 工具提速,以及有哪些坑要提前绕开。下载地址:https://claude.com/blog/the-founders-playbook。
2026-05-15 17:11:01
1866
原创 Harness Engineering全面解析:OpenAI、Anthropic、ThoughtWorks的三种答案
2026年2月,OpenAI发了一篇博客,悄悄重新定义了软件工程师的日常工作。。文章描述了一个小团队如何在没有手写一行代码的情况下,上线了一百万行生产代码。他们做的事情不是写代码,而是设计AI Agent工作的环境——约束条件、反馈循环、文档结构、依赖规则。Agent负责写代码,人负责设计让Agent可靠运转的系统。几周之内,Anthropic发表了三篇关于同一概念的工程论文(有效harness、harness设计、managed agents)。
2026-05-14 13:02:56
473
原创 在本地跑一个完整 AI Agent 系统:Ollama、MCP 和 Skill 到底怎么串起来
没有 API Key,没有付费服务,全本地。Skill 里没有"例子",没有"请尽可能有帮助地回答"这类废话,没有鼓励模型"发散思考"——这就是个程序,模型的任务是执行它,不是发挥它。作者之前写过一篇文章,建了一个挺有意思的类比:传统编程和 LLM Agent 系统之间存在一套对应关系——Skill 是程序,MCP 是库,LLM 是语言。真正有意思的工作在后面:写什么样的 Skill,怎么给它们跑 eval,以及把哪些内部系统包装成 MCP 暴露出来——这才是这套架构真正值钱的地方。
2026-05-13 11:08:05
545
原创 零索引、零 embedding、纯 grep:DCI直接在原始语料上做 deep research
是最重的干预——上下文压力还是太大,就让一个摘要 agent 把历史压成一段简短总结,最近几轮原样保留。这三个机制组合出 L0 到 L4 五档策略,从完全不管到全开。L0 啥都不做,L1 只截断到 50K 字符,L2 截到 20K,L3 加上压实,L4 再叠摘要。
2026-05-10 15:08:59
600
原创 Agent 如何管理其他 Agent:四种Sub Agent 模式
之前有篇文章专门聊了子 Agent 的崛起,以及为什么把任务隔离成独立的 Agent(各自拥有独立的上下文、工具和指令)能让系统更可靠。那篇讲的是"子 Agent 是什么"和"为什么要用它们"。时至今日,模型在规划、工具调用和多步骤指令执行上已经强了不少,这也让一些以前太脆弱、跑不起来的模式变得可行了——比如让主 Agent 管理一批持久化的 Worker,或者让 Agent 之间直接互发消息。下面介绍四种模式,按主 Agent 对子 Agent 生命周期的控制程度由低到高排列。
2026-05-07 15:46:09
665
原创 从 OpenClaw 切到 Hermes Agent,那些没人告诉你的事
Hermes Agent 用十周时间冲到了 110k GitHub stars——这是 2026 年增长最快的 Agent 框架。这篇文章聊聊它到底跟 OpenClaw 有什么本质区别、自学习循环是怎么运作的,以及什么情况下值得换、什么情况下别动。
2026-04-30 16:57:04
524
原创 14B小模型暴打670B巨兽?这个审稿AI框架让同行都沉默了
LLM写审稿意见写得差,不是模型太笨,而是它没有被告知该检查什么(缺少rubric),也没有被给予查资料的能力(缺少工具)。把这两件事补上,一个14B参数的小模型,居然能打过参数量大出十几倍的GPT-4o和DeepSeek-R1-670B,这才是最有说服力的结论。
2026-04-28 22:14:02
467
原创 RAG评估全攻略:从检索指标到生产监控,一文说清楚
RAG评估不是一锤子买卖,而是一套需要持续运转的工程体系。把所有指标按bucket报,不要只看平均值,平均值会掩盖风险。所有组件都要版本锁定,能复现的bug才能修。把生产事故转化为测试用例(auto-curation),让评估体系随着系统一起进化。离线评估保可复现,在线评估保真实,两者都不能少,而且要对齐。做RAG的团队越来越多,但能把评估体系做扎实的还是少数。希望这篇整理对大家有帮助,欢迎评论区交流你们踩过的坑。
2026-04-27 18:02:14
479
原创 从零实现 Agent Skills:给 AI 智能体装上可插拔的“技能包“
Agent Skills 说白了就是"带加载机制的结构化提示词",听起来朴素,但真正用起来,解决的都是做智能体时最烦的那些问题——上下文膨胀、主提示词越改越乱、不同场景相互打架、调试全靠盲猜。完整实现不到两百行 Python,一个下午就能跑起来。建议先写一个技能试试水,感觉顺手了再逐步扩展。有些看起来很花哨的架构,其实核心就是把常识性的工程思路——按需加载、关注点分离、模块化——老老实实落到 Prompt 工程里而已。顺便一提,是这个格式的开放标准,SKILL.md。
2026-04-17 16:29:38
703
原创 从第一性原理 深度解析Claude Agent Skills底层原理
Claude Code 中的技能是基于提示词的对话与执行上下文修改器,通过元工具架构运作。技能是SKILL.md文件里的提示词模板,不是可执行代码Skill 工具(大写 S)是tools数组里的元工具,管理所有个别技能,不在系统提示词里技能通过注入指令提示词(消息)修改对话上下文技能通过变更工具权限和模型选择修改执行上下文技能选择通过LLM 推理完成,不是算法匹配工具权限通过执行上下文修改器,作用域限定在技能执行期间。
2026-04-16 17:32:11
509
原创 科研人福音!PaperOrchestra 把实验日志变投稿论文,文献综述图表全包
写论文这件事,最难的不是有想法,而是把想法变成一篇有逻辑、有文献支撑、有图表佐证的完整稿件。PaperOrchestra用多智能体分工的方式,把这个过程拆解成可以并行、可以迭代优化的若干步骤,证明了从"实验日志"到"投稿级论文"的全程自动化,在今天的技术条件下已经是可行的——而且质量能跟人类写的论文打个有来有回。
2026-04-09 21:20:57
683
原创 Anthropic 发布了新一代模型Mythos,跑分断崖式领先!
今天 Anthropic 发布了新一代前沿模型,跑分断崖式领先,但普通人完全用不上——不上线 claude.ai,不开放 API,不面向开发者,什么都没有。技术报告:https://www.anthropic.com/glasswing。
2026-04-08 17:40:37
557
原创 大模型写论文到底靠不靠谱?PaperRecon这篇论文用51篇顶会论文给出了答案
这篇论文说清楚了一件事:AI写论文"写得好看"和"写得靠谱"是两回事,现有最强的编码智能体在这两件事上几乎无法兼顾——Claude更像一个文采好但喜欢瞎编的学生,Codex更像一个写得普通但至少不胡说的学生,而真正既会写又不胡说的AI,目前还不存在。
2026-04-07 16:59:30
491
原创 RAG系统出错别再傻乎乎地“重跑“了!Doctor-RAG教你精准定位、局部修复
RAG系统出错之后不应该"一刀切"地重跑全流程,而是要像看诊一样,先搞清楚是哪种病、病在哪里,然后只对患处动刀——Doctor-RAG正是把这个常识做成了一套系统,在提升修复效果的同时,把计算开销压到了最低。
2026-04-02 22:35:46
376
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅