- 博客(41)
- 收藏
- 关注
原创 GPT 多模态大模型全景解读
把这条流程拆开看,真正起作用的不是“模型能识别物体”这个能力,而是三个设计决策。RealWorldQA 提升了 14 个百分点,DocVQA 只提升了 4.4 个百分点——这说明真正被解决的是“真实、杂乱、非摆拍”的场景,而标准文档类任务的瓶颈本来就已经在别处(版面结构、印章、手写)。Be My Eyes 是 2015 年上线的公益平台,思路上非常朴素:视障用户遇到需要“看一眼”的事——分辨冰箱里的饮料、读一封信、确认药盒上的用法——就打开 App 发起视频,另一端由视力正常的志愿者实时描述。
2026-11-17 11:27:23
287
原创 DeepSeek-V4.1-Flash GLM-5.3-Flash 实测横评
题目:9 项评测共用一个题库,覆盖办公交付(AA-Briefcase、GDP.pdf)、终端与代码(Terminal-Bench 4.0、FrontierCode-AA)、自动化(AutomationBench-AA)与高难推理(HLE-Diamond、CritPt v2)。DeepSeek-V4.1-Flash(模型版本 V4.1-Flash-1017)与 GLM-5.3-Flash 都属于各自家族的 “Flash” 档:小激活参数、低成本、专为长链路 Agent 与代码任务设计。
2026-11-17 11:25:42
150
原创 deepseek-v4.1-flash 与 gpt-6.1-terra性能评测对比
摘要(≤150字): 实测显示,gpt-6.1-terra智能指数51分,deepseek-v4.1-flash为33分,能力差距达54.5%。前者首字延迟高、输出慢,但长任务一次通过率更高;后者首字快3.8倍、输出快2.4倍,最大输出达384K tokens。真实账单对比:月20万次请求下,terra仅贵37%,却带来显著能力提升。选型建议:复杂长链任务用terra,高吞吐/交互场景选deepseek,混合路由可实现成本与性能最优平衡。
2026-11-16 16:53:51
297
原创 DeepSeek Harness 效率实践
本文通过实测DeepSeekHarness(dsh),验证其在智能体工程中提升效率的核心机制:将重复性任务(如跑测试、读日志)交由脚本自动化,让模型专注判断与决策。实测显示,仅需2轮往返、3行改动即完成修复,耗时约5.3秒,核心效率来自“事实自动获取、判断执行合一、验收可量化”。文章提炼六条可落地做法,强调稳定提示词、会话压缩、权限隔离与脚本化验收,指出真正决定工具能否“天天跑”的,是工程边界而非模型能力。
2026-11-16 16:52:15
297
原创 GPT-6.1-terra Token消费对比
按 12 个月年化:官方 ¥106,920,企业线路 ¥9,922.20,普通线路 ¥4,276.80——也就是说,这个团队一年可以省下约 9.7 万元(企业线路)到 10.3 万元(普通线路),相当于把一个大模型项目的预算,变成了一个模型的年度开销。第二,节省的绝对金额取决于业务结构,而不是模型。月 15 万次请求、输入 8,000 tokens/次(5,000 命中缓存)、输出 1,000 tokens/次 —— 官方月账单 ¥8,910.00,企业线路 ¥826.85,普通线路 ¥356.40。
2026-11-15 21:44:01
1263
原创 GPT-6.1 Terra大模型研究报告
GPT-6.1Terra是OpenAI于2026年10月发布的中端通用大模型,定位为“高性价比、强视觉与操作能力”的智能体核心。其核心优势在于视觉推理与电脑操作(ComputerUse)能力领先,满推理档位在Agents'LastExam中达60.0分,单任务成本仅0.29美元。编程能力显著提升至50.3%(Terminal-Bench4.0),但与Claude系列仍有差距。模型支持六档可调推理,幻觉率降至38%,成本效率处于帕累托前沿。然而,输入超272K Token将触发计价翻倍,且真实会计任务测试中三
2026-11-15 09:05:29
466
原创 DeepSeek 大模型网络安全及安全级别
公开的安全通报与安全研究反复指出,未做访问控制的本地大模型推理服务(如 Ollama 一类框架的默认端口)是近年被批量扫描利用的主要目标之一。这一点对数据泄露的定性很重要——风险主要来自“记忆化(memorization)”的统计残留,而不是数据库式读取,因此防护手段是训练数据去重与清洗,而不是简单的“封库”。在用户数据的使用上,官方给出的边界是:经安全加密技术处理、严格去标识化且无法重新识别特定个人后,才可能将输入输出用于模型训练优化,并提供“数据用于优化体验”的关闭开关,关闭后不再用于训练。
2026-11-14 14:58:32
231
原创 工作流,还是 Agent?
本文聚焦AI工程中工作流与Agent的抉择,提出核心判断标准:下一步由代码决定还是模型决定。通过七个维度对比,揭示二者在控制权、确定性、成本、可观测性等方面的本质差异。结合客服工单实测与Klarna两年实践,证明混合架构——以工作流为骨架、Agent为局部决策单元——兼具效率与可控性。结论:不是“新旧之争”,而是“流程”与“判断力”的分工,关键在于将可预测部分写死,不可预知部分交由模型,并用流程与护栏约束风险。
2026-11-13 14:27:09
367
原创 在DeepSeek Harness中使用deepseek-V4.1-Flash_1017版本的方法与技巧
本文详解AI工程实践中的DeepSeekHarness与V4.1-Flash模型协同应用,从环境配置、八条实操技巧(如稳定前缀以节省成本、会话压缩、合理使用思考档位)到真实案例验证,展示如何通过自动化任务管理与高效推理实现开发提效。强调“把重复判断交给脚本,真判断留给模型”,并指出权限最小化、验收可自动化等关键工程原则,助力构建可复现、可审计的智能开发闭环。
2026-11-13 14:10:52
358
原创 许愿式编程
三者同时到位,“许愿”才从演示变成了日常。与面向人的搜索框不同,这两个接口的输出是为“给模型读”而优化的:每条结果同时返回排名分(rerank_score,0–3 分,1.5 分以上为优质)、权威度(authority,0–4,3 分以上为极权威)、短摘要(100–200 字符,给前端用)与长摘要(600–800 字符,给模型读),还可以按需返回网页正文。表面看这是一次例行的性能更新,但它同时完成了三件事:把“从零做完整项目”变成可用能力,把搜索做成了对外售卖的 API,把一次复杂任务的账单压到两元出头。
2026-11-12 10:59:09
1230
原创 一个 token 的诞生:从提示词到第一个字
本文拆解大模型生成首个token的全过程,揭示“AI秒回”背后的67亿参数与500毫秒延迟真相。从提示词分词、嵌入、位置编码,到32层Transformer前向计算,最终通过采样输出“巴黎”等结果。核心指出:首字延迟源于长提示词的Prefill阶段,而生成速度受限于显存带宽;67亿参数并非知识条目,而是分布式统计规律的压缩表达。澄清五大误解,强调优化需对准具体瓶颈——量化降显存、批处理提吞吐、缓存管理抗并发。看清流程,方知如何精准优化。
2026-11-10 11:26:49
438
原创 vLLM:一张 GPU 卡,凭什么扛住几倍请求?
vLLM通过PagedAttention技术,将GPU显存管理从“预分配”升级为“分页按需”,将KVCache浪费率从60%-80%降至4%以下,实现单卡并发能力提升2-5倍。结合连续批处理、前缀缓存、FP8量化等优化,真实案例中12人团队在不换模型、不加卡前提下,将并发从8路提升至42路,首字延迟降低78%,推理成本降至五分之一。vLLM不仅是一个推理引擎,更是将推理从“成本项”变为“能力项”的关键基础设施。
2026-11-10 10:50:48
445
原创 vLLM:一张 GPU 卡,凭什么扛住几倍请求
本文深度解析vLLM如何通过PagedAttention等技术,将单张GPU卡的推理并发能力提升2至20倍。针对大模型推理“又慢又贵”的核心痛点,vLLM以分页显存管理、连续批处理、前缀缓存等机制,显著降低KVCache浪费与显存占用。结合真实案例,12人团队在不换模型、不加卡的前提下,将并发从8路提升至42路,首字延迟下降78%,成本降至五分之一。文章强调,推理效率的跃迁源于系统级优化,而非单纯硬件升级,真正实现“把推理从成本项变为能力项”。
2026-11-09 20:35:57
346
原创 DeepSeek-V4.1-Flash大模型私有化部署方案
本文聚焦DeepSeek-V4.1-Flash大模型私有化部署,提出四档算力配置方案,明确显存为关键约束,8卡H20可支撑约170路32K并发。实施周期4–6周,强调并行策略、量化回归与性能基线验收。三年TCO约178万至319万元,投资回收期约15个月。案例显示,某制造集团私有化后成本降62%,首字时延下降67.4%,实现数据不出域、可微调与高可用。核心价值在于安全合规与长期边际成本优势,非单纯token单价。
2026-11-08 08:06:36
663
原创 多Agent协同技术讲解
本文系统剖析多智能体技术演进,指出其核心并非“智能叠加”,而是通过独立上下文窗口实现并行推理,代价为约15倍token消耗。基于Anthropic实测,token用量解释80%性能差异,凸显其本质是“用算力换能力”。架构上采用主从编排(orchestrator-worker),强调任务必须可拆分、信息量超单窗、需多工具协同,才适合应用。典型场景如研究调研、合规核查等,而强依赖任务则不适用。关键成功要素包括清晰派活指令、合理规模投入与小样本评测。平台侧需警惕无预算控制风险,建议引入统一监控工具如LinkTok
2026-11-06 18:01:23
327
原创 MiniMaxH3技术解读
MiniMax于2022年创立,使命为“与每个人共创智能”。其核心突破在于H3视频模型——首次以自然语言统一文、图、音、视频生成任务,打破传统多模态孤岛。通过四组件流水线架构与“上下文描述式”提示设计,实现跨模态参考与精准控制,支持2K分辨率、15秒内生成,且原生立体声输出。定价分五档,最低档成本仅为2K的19%,形成“试错-定稿”工作流。与Sora2相比,H3在画质、开放权重与内容政策上更具商业灵活性,尤其适合广告、电商等需高保真品牌渲染的场景。
2026-11-06 17:31:16
309
原创 IT 系统集成项目投标技术方案编制全流程
本文以农业农村部政务外网DeepSeek大模型智算基础设施采购项目为例,系统阐述IT系统集成投标技术方案编制的全流程。通过“取出文件→拆解指标→归档响应→倒推章节→搭建骨架→逐章撰写→自检交付”七步法,确保响应精准、结构清晰、材料完备。重点强调以评分标准为导向,按分值分配篇幅,逐条对应实质性条款,前置准备证明材料,强化图表与排版规范,最终实现方案可读性、合规性与得分最大化,有效规避无效投标风险。
2026-11-05 20:07:52
305
原创 Agent技术解读
本文系统梳理Agent技术演进,提出五级能力台阶与三大并行路线:从单轮问答到托管运行时,核心在于“循环自主性”;界定Agent与API边界,强调长任务需平台托管以保障状态与安全;剖析成功率指数衰减原理,提出压步数、确定性优先、每步可校验三原则;结合手机智能助理等案例,揭示动作空间在界面操作中的挑战,倡导用协议互通与可观测性推动生产落地。
2026-11-05 20:03:18
320
原创 GPT Image 全景解读
GPTImage是一组可编程的出图接口,非聊天功能,支持指定尺寸、质量、张数等参数,具备高可控性与生产可用性。技术路线呈现精度与速度双支并行,型号分层明确,2.5系列支持自定义宽高与人脸保持,1系列仅三档固定尺寸。接口返回base64,需自行处理存储与分发,且请求长度限4000字符。核心能力包括局部重绘、多模态输入、内容审核拦截。2026年3月4日dall-e-3强制退役,暴露接口断代风险,迁移成本显著。选型应优先考虑成本、速度与一致性,避免误用mini型号或依赖多轮编辑。
2026-11-04 14:24:10
767
原创 OpenAI Videos API 技术解读
本文系统梳理OpenAI视频生成API的技术演进,聚焦接口形态从“作业”到“资源”的变革,揭示其作为可编程生成能力的核心价值。基于v1 API规范,解析五端点架构、三路输入与异步状态机,明确并发2、留存24小时等硬约束,并通过官方上限推导流水线吞吐极限。强调remix编辑、素材复用与提示词工程在电商、影视等场景的应用逻辑,指出当前仍处preview阶段,不宜直接用于生产关键路径。最后提出“错峰+拆镜+落盘即公民”三大优化策略,辅以LinkTokenView平台实现多模态统一接入。
2026-11-04 14:13:06
295
原创 Deepseek Harness软件开发实用指南
DeepSeek Harness 是一款面向开发者与AI应用构建者的开源框架,核心价值在于将模型能力封装为可插拔的工程化组件。它通过“一切皆插件”架构,实现模型适配、工具注册、会话日志与Agent循环的灵活替换,无需修改核心代码。本文从公司定位、技术演进、架构设计到实战技巧(如环境配置、兼容性开关、工程化部署)层层展开,并以真实桌面软件LinkTokenView为例,验证其93%依赖来自Harness的生态优势。关键结论:模型决定上限,Harness决定能否稳定交付——它让开发者专注业务,而非重复造轮子。
2026-10-27 10:24:42
605
原创 GLM-5.3-Flash私有化部署实践指南
本文系统解析智谱AI旗下GLM-5.3-Flash模型的私有化部署全链路,涵盖其320B总参、仅激活18B的高效架构、显存计算公式与三档硬件配置建议。通过拆解推理链为编码、预填充、解码三池,结合张量并行、混合量化与层切分等技术实现性能提升。成本方面,六项支出需综合评估,盈亏平衡点约384亿token/月,中低用量下私有化不具性价比。案例显示国产芯片集群已成功跑通,强调“以算力换带宽、以通信换显存”的优化路径。最终指出,私有化核心价值在于数据合规与可控性,而非单纯降本。
2026-10-26 19:24:00
444
原创 DeepSeek-V4.1-Flash-1017 全景解读
9 月 10 日,V4.1-Flash 发布——全新非对称 Causal Encoder-Decoder 架构,原生支持视觉理解,生成速度约 284 token/s(上一代约 97),官方明确表示其在性能、响应速度、计算费用等核心指标上全面超越此前的 V4 Pro,并将所有指向 V4 Pro 的请求自动路由到 Flash 按更低价格计费,罕见地实现了「升级与降价同步」。V4.1-Flash-1017 的发布逻辑很清晰:当「能力够用」成为常态,竞争的主战场就转向「单位成本下的可用性」。
2026-10-26 00:38:11
781
原创 大模型技术原理与应用全景
直观理解:处理"票"这个字时,模型会把注意力集中在"机票"的"机"和"贵"上,让"票"的新表示融合全句语境。国内综合竞争力榜单(中国数据研究中心《2026 中国 AI 大模型竞争力 TOP20》)给出清晰梯队:字节豆包(96.2 分,日活超 1 亿)、阿里通义千问(94.8)、DeepSeek(93.5)、智谱 GLM(91.0)、百度文心(89.3)、腾讯混元(87.6)、月之暗面 Kimi(86.2)。大模型的能力曲线仍在陡峭上行,但行业竞争的重心已经从"参数竞赛"转向"每 token 的产出效率"。
2026-10-25 04:13:54
882
原创 GitHu全景研究
它解决的是分布式协作与性能问题,能力很强,但形态是纯命令行的:没有网页界面,没有账号体系,也没有「把仓库放到一处、大家互相看得见」的地方。生成本报告当日通过 GitHub API 检索,星标超过 15 万的公开仓库共 62 个,排名靠前的既有学习清单,也有 Linux 内核这样的重量级工程。单仓库 6.4 GB、六万多次 fork、上千名维护者,这套协作能跑起来,靠的是 Pull Request 审查流程、持续集成与维护者梯队,而不是某个人的个人能力。值得注意的是,这三件事都不需要新的算法。
2026-10-24 08:02:55
289
原创 AI 大模型驱动的应用软件逆向生成
成果上,可重执行率已经从早期的四成出头爬到六成以上,但真实复刻项目对照商业软件的就绪度只有 45% 左右,“能复刻是什么"和"能复刻好不好用"之间还隔着一条很宽的沟。它的价值不在于新发明了一种反编译算法,而在于把一串原本需要人工串联的工具接了起来——开发者只要提出"弄清这款软件的搜索功能是怎么操作的",它会自己去调工具、翻译二进制、拆安卓安装包,最后把结论和证据一起交回来。NDSS 的研究数据显示,它把理解反编译输出的认知负担降低了 24.4%,生成的注释中有 62.9% 能提供实用语义。
2026-10-23 10:55:52
166
原创 AI 大模型驱动的应用软件逆向生成
成果上,可重执行率已经从早期的四成出头爬到六成以上,但真实复刻项目对照商业软件的就绪度只有 45% 左右,“能复刻是什么"和"能复刻好不好用"之间还隔着一条很宽的沟。它的价值不在于新发明了一种反编译算法,而在于把一串原本需要人工串联的工具接了起来——开发者只要提出"弄清这款软件的搜索功能是怎么操作的",它会自己去调工具、翻译二进制、拆安卓安装包,最后把结论和证据一起交回来。NDSS 的研究数据显示,它把理解反编译输出的认知负担降低了 24.4%,生成的注释中有 62.9% 能提供实用语义。
2026-10-23 10:53:12
318
原创 用deepseek harness做软件开发需要安装的插件介绍
## 先厘清一个概念 DeepSeek 官方并没有名为 "harness" 的独立 IDE 插件市场,社区语境中的 **deepseek harness** 通常指围绕 DeepSeek 模型搭建的本地开发脚手架/代理层(Agent 运行时),它通过插件(plugin)机制把模型能力接入到编辑器、终端、Git、测试等环节。所以"装插件"本质上是为这套 harness 配置工具链扩展。 ## 常用插件及作用 - **编辑器桥接插件(VS Code / JetBrains)**:把 harness 的补全、改写
2026-10-22 10:48:15
203
原创 deepseek harness 实战手册
# deepseek harness 实战手册 DeepSeek Harness 是面向 DeepSeek 模型的开源推理与评测框架,提供统一接口、任务编排与插件机制。下面按安装、配置、使用和插件扩展快速落地。 ## 开源与安装 项目采用 Apache-2.0 许可,核心目录为 `core/`、`configs/`、`plugins/`,需 Python 3.10+。 ```bash git clone https://github.com/deepseek-ai/harness.git cd harnes
2026-10-21 09:48:14
263
原创 开源大模型私有化部署优势和劣势?
私有化部署几乎成了中大型企业落地大模型的默认选项,但它既不是万能药,也不是纯负担。下面从五个维度拆开看。 ## 一、软硬件技术视角 优势在于全链路可控:模型权重、推理框架(vLLM、SGLang、TensorRT-LLM)都可自选,能做量化、剪枝、LoRA 微调,数据不出内网。 劣势是显存硬约束。7B 模型 FP16 约需 14GB 显存,70B 则要 140GB 以上,往往 2×A100/H800 起步。推理框架还得专门调参: ```bash python -m vllm.entrypoints.open
2026-10-20 13:22:06
174
1
原创 deepseek-v4.1-flash + Blender MCP 做短视频
这套组合的本质是“LLM 出代码、DCC 执行”,把短视频生产从手工操作变成可版本管理的工程流程。它不追求电影级质感,但在可控、可批量、可复现三个维度上优势明显,适合作为中小团队的内容流水线底座。
2026-10-19 20:22:31
207
原创 从 429 到熔断:AI 聚合网关的故障切换与并发治理
先分类再重试,只有限流、超时、5xx 值得消耗重试预算;熔断粒度要细到「上游 + 模型」,否则故障会横向传染;并发治理必须分层,重试会放大并发,全局信号量要包住整个重试过程;流式请求只有首 token 前可以安全切换;指标是切换策略的输入,没有观测就没有有效的降级。如果不想自己维护这一整套路由、熔断和配额体系,也可以直接选用现成的聚合网关。这类平台把多上游的凭证池、熔断策略和重试预算收敛在统一入口,业务侧只面对一个 OpenAI 兼容接口。
2026-10-18 07:27:33
958
原创 大模型中MCP的介绍及应用场景
# 大模型中MCP的介绍及应用场景 ## 一、MCP 是什么 MCP(Model Context Protocol,模型上下文协议)由 Anthropic 于 2024 年 11 月开源,目标是为大模型与外部工具、数据源之间提供统一的「USB-C」式接口。它基于 JSON-RPC 2.0,把过去散落在各家 Agent 框架里的私有函数调用协议标准化。 ## 二、技术架构 MCP 采用经典的客户端—服务端结构: - **Host(宿主)**:运行大模型的应用,如 Claude Desktop、Cursor 或
2026-10-18 06:55:39
605
原创 大模型和统计学、概率学之间的关系
## 一句话结论 大模型的训练目标是极大似然,推理过程是概率采样,评估手段是统计度量——它是一条概率流水线,而不是符号推理机。 ## 语言模型 = 条件概率分布 自回归语言模型的数学定义非常朴素: P(x_1,...,x_T) = ∏ P(x_t | x_1,...,x_{t-1}; θ) 模型输出的 logits 经 softmax 归一化后,就是词表上的概率分布;所谓“生成”,就是从这个分布里逐个采样 token。 ```python import torch, torch.nn.functional
2026-10-17 13:01:53
209
原创 linktokenview网站内嵌gpt image 2大模型生图工具,欢迎大家试用测试。
linktokenview 把 GPT Image 2 装进了浏览器,也留出了 API 出口:想快速试效果,直接打开网页输入提示词;想接进产品,就调接口。0.1 元一张高清图的定价,让它适合做原型验证和中小规模生产。欢迎大家试用测试,把遇到的问题和想要的功能反馈给平台。
2026-10-16 19:20:40
270
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅