- 博客(74)
- 收藏
- 关注
RSS订阅原创 不用向量库也能检索：BM25 与混合检索实测
本文实测不依赖向量库的BM25检索，通过自研纯Python实现，解析公式中k1、b等参数含义，结合中文2-gram分词策略，在真实语料上对比纯BM25、纯向量与RRF混合检索效果。结果表明：BM25在精确匹配（如型号、错误码）上表现优异，而向量模型擅长语义泛化；通过RAGSystem.retrieve融合双路结果，并以测试断言保障可靠性，验证了检索是RAG系统的关键瓶颈与优化起点。
2026-11-14 09:00:00
252
原创 Rényi 差分隐私：把隐私损失看成一族矩（英文原题：Rényi Differential Privacy (CSF 2017)）
Rényi差分隐私（RDP）将隐私损失建模为随阶数α变化的曲线，而非单一数值。其核心优势在于组合时可逐点相加（ε₁ + ε₂），实现“先组合、后转换”的紧致记账，显著优于传统“先转换、后组合”方法。通过转换引理，任意RDP可转化为(ε, δ)-DP，且最优α的选择能极大压缩隐私预算。该框架被广泛应用于深度学习中的隐私保护训练，成为主流工具如Opacus和TFPrivacy的理论基础。
2026-11-12 20:00:00
296
原创 HiVe-Mem 深度解析：多模态智能体记忆的“二维“解法——横向扩召回，纵向省 Token
HiVe-Mem提出多模态智能体记忆的“二维”解法：横向通过文本与视觉锚点构建轻量亲和图，扩召回漏检的相邻记忆；纵向用3层MLP选择器逐条决策证据暴露粒度（摘要/裁剪图/原图等），实现精准降本。在三个2026新基准上，F1与LJ均达第一，Token消耗较最优基线降低90%以上，兼顾性能与效率。
2026-11-11 14:00:00
470
原创 用差分隐私训练深度网络：DP-SGD 的工程全解（英文原题：Deep Learning with Differential Privacy (CCS 2016)）
本文提出DP-SGD，首次实现深层网络在个位数隐私预算ε下训练。核心为三步：逐样本梯度裁剪（ℓ₂范数≤C）、加高斯噪声（σ²C²I）、平均更新。创新性引入moments accountant，通过追踪隐私损失的对数矩而非简单组合，显著降低隐私预算消耗——相比强组合定理，可将可用训练步数提升一个量级。实验证明，在MNIST上ε=0.5时仍达90%准确率，CIFAR-10上ε=8时达73%，验证了差分隐私与模型性能的可调和性。该框架成为后续Opacus、TF Privacy等工具的基础。
2026-11-10 20:00:00
562
原创 手写 RAG 第一步：chunking 到底怎么切
本文手写RAG核心第一步——文本切片，剖析三种策略：按段落切（保留结构）、按句子聚合（平衡语义与长度）、滑动窗口切（避免信息断裂）。强调切片是检索与生成的基石，每片应为“可独立回答一个问题”的最小单元。通过自定义Chunk数据结构，确保id稳定、元数据完整，支撑后续引用精准定位。代码实践来自开源课程，不依赖框架，直击切片本质，为后续检索优化打牢地基。
2026-11-07 09:00:00
494
原创 用 Boosting 把弱隐私算法炼成强隐私算法（英文原题：Boosting and Differential Privacy (FOCS 2010)）
本文提出一种基于Boosting的差分隐私机制，将弱隐私摘要通过迭代重加权查询分布，转化为强隐私摘要。核心思想是：利用置信度评级的重加权策略（避免硬阈值破坏隐私），使每轮仅对“多数”查询准确的弱学习器逐步提升对全部查询的精度。论文同时建立了高级组合定理，将多轮访问的隐私损失从线性累积降至√k量级。该方法在理论上实现了任意低敏感度查询的近最优精度，首次系统揭示了隐私、精度与效率之间的根本权衡，为后续私有学习与高效机制设计奠定基础。
2026-11-05 20:00:00
740
原创 平滑敏感度与采样聚合：让噪声跟着数据走（英文原题：Smooth Sensitivity and Sampling in Private Data Analysis (STOC 2007)）
本文提出平滑敏感度（Smooth Sensitivity）与采样聚合框架，解决差分隐私中噪声尺度过大的问题。传统全局敏感度按最坏情况加噪，导致中位数、聚类等函数隐私发布失真；局部敏感度虽更精确却因泄露信息不可用。平滑敏感度通过指数衰减距离加权，构造最小且平滑的噪声尺度，确保隐私性同时显著降低噪声。结合采样聚合，将复杂函数转化为黑盒处理，使无法计算局部敏感度的统计量（如聚类中心）也能安全发布。该工作为数据相关隐私分析奠定基础，影响深远。
2026-11-03 20:00:00
591
原创 拆解DeepSeek Super-agent：经典系统思想的Agent新用
DeepSeek Super-agent 通过双层调度、事件驱动与存算分离等经典系统思想，将Agent从“对话工具”升级为持续在线的数字同事。其核心在于：以Router层统一协调、Worker层并行执行，实现跨会话连续性；通过两级过滤、链式召回与投机执行提升效率；以异步交互与多信道适配优化用户体验；最终借助存算分离保障持久运行。该架构不仅突破注意力瓶颈，更重构了人机协作范式，是系统思维在AI Agent领域的成功实践。
2026-11-01 08:45:16
392
原创 用 Ollama + qwen3 在本机跑通大模型：token、采样与结构化输出
本文详解在本地通过 Ollama 运行 qwen3:8b 模型的完整流程，涵盖环境搭建、API 接口调用、token 计费机制与采样参数控制，并重点解析非流式与流式响应差异。通过封装 OllamaClient 客户端，实现结构化输出与日志追踪，结合 JSON Schema 保障输出可程序解析。全程零成本、数据本地化，附可复用代码仓库与单测，助力构建稳定高效的本地 AI Agent 系统。
2026-10-31 09:00:00
170
原创 用隐私换诚实：指数机制与近似真实拍卖（英文原题：Mechanism Design via Differential Privacy (FOCS 2007)）
本文提出将差分隐私（DP）作为机制设计的核心工具，证明$\varepsilon$-DP机制天然具备$\varepsilon$-近似占优策略真实（$\varepsilon$-dominance），即个体谎报最多获利$\varepsilon$。通过指数机制，可在任意输出空间与打分函数下实现此性质，并在数字商品拍卖中将收益缺口从$O(\sqrt{OPT})$降至$O(\log(e+\varepsilon^2 OPT,n)/\varepsilon)$，显著优于前人结果。同时，该方法兼具抗合谋、可组合与可重复性，且$
2026-10-29 20:00:00
545
原创 噪声不到 √n，整库即被还原：重建攻击如何逼出差分隐私（英文原题：Revealing Information while Preserving Privacy (PODS 2003)）
Dinur & Nissim（PODS 2003）揭示：当噪声小于 $\sqrt{n}$ 时，攻击者仅需 $O(n\log^2 n)$ 条随机子集查询，即可通过解线性方程组重建几乎整个数据库。该结果证明，任何噪声不足 $\sqrt{n}$ 的统计发布机制均“公然非隐私”，彻底终结了“加少量噪声+查询限制”的隐私幻想。其核心洞见在于：$\sqrt{n}$ 恰为抽样误差量级，隐私与可用性在此尺度上直接冲突，从而催生差分隐私的诞生——将隐私定义为相邻数据库输出不可区分，实现可组合的定量保护。
2026-10-27 20:00:00
514
原创 不用框架，从零写一个能查天气的 AI Agent
本文手把手教你从零构建一个无需框架、本地运行的天气AI Agent。仅用Python标准库与requests，结合本机Ollama模型，实现“感知-推理-行动”循环：用户提问后，Agent自主判断是否调用weather_tool，获取并组织结果返回。通过100行代码完成工具调用、错误处理与循环控制，全程无API费用。附自动化测试与清晰对比图，助你一眼分清ChatBot与Agent的本质差异——核心在于模型驱动的自主决策与工具调用循环。
2026-10-24 09:00:00
414
原创 校准噪声：把隐私参数钉在敏感度上（英文原题：Calibrating Noise to Sensitivity in Private Data Analysis (TCC 2006)）
本文提出将噪声规模与函数的$L_1$敏感度直接挂钩，而非依赖查询数量或数据维度。核心思想是：只要按函数最大变化量（敏感度）定标噪声，即可实现差分隐私。例如，直方图的敏感度恒为2，与格数无关；协方差矩阵的敏感度也与维度无关。该方法使隐私预算与数据结构解耦，避免了传统归约中因拆分查询导致的噪声膨胀。同时证明自适应查询可共用同一噪声尺度，且非交互发布在低敏感度场景下需指数级数据规模——为后续私密机器学习（如DP-SGD）奠定基础。
2026-10-22 20:00:00
650
原创 差分隐私的定义之年：把“别泄露”改写成“参与与否几乎一样”（英文原题：Differential Privacy (ICALP 2006)）
2006 年之前，“数据发布如何保护隐私”这件事有三个互不通气的阵地。统计学界有整套披露控制（disclosure control）技术——数据扰动、子采样、去标识，工具的丰富程度足以撑起 1989 年 Adam 与 Wortmann 的综述；但这批文献里没有严格定义，也没有对手模型。理论界在 1970 年代末给过定义，但那些定义写的是“对手必须达成某个具体目标才算隐私被破坏”，按现代密码学的标准太弱：部分信息泄露的危害，恰恰是那些定义看不见的。真正的转折来自 Dinur 与 Nissim 2003 年的重
2026-10-20 20:00:00
537
原创 DeepSeek V4.1-Flash-1017 深度解读：许愿式编程、开源权重与搜索 API 三连发
2026 年 10 月 17 日，DeepSeek 官方公众号发布 V4.1 Flash 的 1017 版本更新公告：模型在性能与费用上达到新的帕累托最优，"许愿式编程"能力上新，Search/Fetch 搜索接口首次对外开放（5 元/千次，11 月 1 日起计费），模型权重同步开源。本文逐项拆解这次更新的技术底色、真实用法与成本影响，并给出客观评价。
2026-10-18 09:00:00
497
原创 预告｜12 周从零造一个 AI Agent：10 篇连载，每篇一个可跑成果
12周从零打造可运行的AI Agent，10篇连载每篇产出一个可复现成果。基于本地Ollama推理，不依赖框架与API费用，全程手写核心模块：从天气查询到工具调用、检索、记忆、Prompt优化与安全防护。每篇含可跑代码、架构图、验收标准与真实实验数据，覆盖ReAct、多Agent协作、mini-DSPy优化等实战难点。源码开源（MIT），技术栈灵活替换，适合开发者、学生及研究者实操进阶。
2026-10-17 09:00:00
507
原创 diffprivlib 中文实战教程 · 第8讲：实战——从零改造一个 DP 模型
使用内置拉普拉斯机制print(f"原始值: 42, 加噪后:from diffprivlib . mechanisms import Laplace # 使用内置拉普拉斯机制 mech = Laplace(epsilon = 1.0 , sensitivity = 1.0) result = mech . randomise(42) print(f"原始值: 42, 加噪后: {.2f。
2026-10-15 20:00:00
207
原创 diffprivlib 实战（七）：源码解析——噪声添加机制揭秘
我们只需要根据给定的内容生成摘要。内容是关于diffprivlib源码解析的博客文章。摘要需要≤150字。从内容中，提取核心：从源码角度剖析diffprivlib噪声机制，包括DPMechanism基类、拉普拉斯机制采样技巧、高斯机制、指数机制、BudgetAccountant。提及理解底层实现有助于自定义扩展。注意摘要需简洁。 生成摘要： "本文从源码角度剖析diffprivlib的噪声机制，包括DPMechanism基类设计、拉普拉斯机制的4-均匀分布采样技巧、高斯机制sigma计算、指数
2026-10-13 20:00:00
29
原创 通用Agent跌落流量神坛？投资市场“当红炸子鸡“Personal Agent到底是什么？
回到标题的问题：通用Agent跌落流量神坛了吗？流量上，是的；定位上，它在换位置——从C端入口退为能力层、B端工具，以及Personal Agent的执行引擎。而Personal Agent，它是噱头还是趋势，取决于你问的是哪一层：形态与技术趋势已经立住（五层栈清晰、需求数据真实、资本集体下注）；商业模式则尚未跑通（订阅、抽佣、成本三重矛盾悬而未决）。对技术人，值得动手的是五层栈里实打实的工程问题：记忆系统怎么做冲突消解？主动循环怎么控制打扰频率？权限怎么分层审计？
2026-10-11 09:00:00
428
原创 diffprivlib 实战（六）：隐私保护的数据探索与可视化
差分隐私不只是训练模型的工具——在数据分析和可视化环节同样能发挥重要作用。本文介绍。
2026-10-08 20:00:00
685
原创 diffprivlib 实战（五）：构建差分隐私 Pipeline——预处理 + 模型的隐私保护组合拳
我们根据用户要求，需要根据提供的内容生成≤150字的文章摘要。内容是关于差分隐私Pipeline构建，重点是隐私预算分配。摘要应简洁概括主要观点：预处理和模型都需要隐私保护，用diffprivlib构建DP Pipeline，并讨论隐私预算分配策略。字数限制150字。需要提取核心要点。 我们写出摘要。</think>在真实项目中，数据预处理与模型训练组成Pipeline，仅模型有隐私保护会留下漏洞。本文使用diffprivlib构建端到端差分隐私Pipeline，覆盖标准化、降维和分类，并对比
2026-10-06 20:00:00
324
原创 Git 深度解读：从对象模型到分支指针，把版本控制的内核讲透
Git 是内容寻址的对象数据库，通过哈希实现数据去重与校验。提交保存完整目录树快照，分支仅为指向提交的轻量指针，故创建与切换极快。objects 存储 blob、tree、commit、tag 四类对象，refs 管理引用，HEAD 指向当前所在位置。实测表明，一次提交仅生成少量对象，磁盘占用低；即使误操作或历史被改写，借助 reflog 与 ORIG_HEAD 仍可恢复。默认使用 SHA-1，但支持更安全的 SHA-256 格式。
2026-10-03 09:30:00
162
原创 diffprivlib 实战（四）：训练差分隐私机器学习模型——sklearn 一行换 import 就是 DP 版
本文通过实战演示 diffprivlib 的“即插即用”差分隐私模型，展示其与 scikit-learn 完全兼容的特性。实验分析了隐私预算 $\epsilon$ 对 GaussianNB 与 LogisticRegression 准确率的影响，揭示隐私-效用权衡规律，并详解 bounds 与 data_norm 的设置方法，帮助用户在保护隐私的同时最大化模型性能。
2026-10-01 20:00:00
660
原创 diffprivlib 中文实战教程 · 第3讲：BudgetAccountant 与隐私预算管理——多次查询不超支的秘密
<think>我们只需要根据给定的内容生成一个不超过150字的文章摘要。内容是关于diffprivlib中BudgetAccountant管理隐私预算的。摘要应涵盖核心要点：隐私预算ε的概念、BudgetAccountant的用途、三种使用方式、设置上限和BudgetError处理、组合定理、以及实战演示。用简洁语言概括。注意字数限制。</think>本文介绍diffprivlib的BudgetAccountant，用于追踪差分隐私查询的累计ε消耗。通过设置预算上限，超支时抛出BudgetError强制停止
2026-09-29 20:00:00
639
原创 CUDA 的霸权：护城河不在编译器，而在迁移成本的乘法效应
CUDA的护城河并非编译器或算力，而是二十年积累的迁移成本——涵盖算子库、工具链、框架集成、开发者生态与法律协议，其成本呈乘法效应。尽管ROCm、自研芯片、国产栈等在2026年出现裂缝，但仅实现“能用”而非“首选”。真正颠覆性的是AI智能体重构知识传递方式，加速增量迁移，却难撼动存量生态。关键在于：份额下降不等于收入下滑，而“默认选择”的转移才是破局标志。
2026-09-26 09:00:00
352
原创 diffprivlib 中文实战教程 · 第2讲：PrivacyLeakWarning 与 bounds 设置——新手最容易踩的坑
<think>我们根据要求，需要生成≤150字的文章摘要。内容是关于diffprivlib中PrivacyLeakWarning的讲解，重点在bounds的重要性、设置方法和后果。需要精简概括核心要点。注意字数限制。</think>本文介绍 diffprivlib 中 PrivacyLeakWarning 的成因：未指定 bounds 时库会从数据计算范围，造成额外隐私泄漏。通过原理与类比说明 bounds 的作用是校准噪声，并演示基于领域知识正确设置 GaussianNB 与 LogisticRegres
2026-09-24 20:00:00
626
原创 GPT-6 Sol深度解读：从API泄露到正式发布，一文看懂OpenAI的「速度档」战略
GPT-6 Sol的发布，不是一次简单的产品更新，而是AI行业从"旗舰竞赛"转向"生态竞赛"的信号。Sol的核心价值不在于"比Astra更好"，而在于"用更低的成本完成更多任务"。当模型越来越强、价格越来越低、工具调用越来越成熟，真正的竞争已经不是"谁的模型更聪明"，而是"谁能用更低的成本、更稳定的方式，把模型的能力转化为生产力"。立即：在配置中心准备gpt-6-sol的接入配置本周：用固定测试集评估Sol在你的场景中的表现本月：建立模型路由策略，让Sol和Astra各司其职持续。
2026-09-23 20:00:00
470
原创 diffprivlib 中文实战教程 · 第1讲：初识 diffprivlib & 30 秒快速上手
<think>我们根据要求生成一个不超过150字的摘要。需要概括文章主要内容。文章讲diffprivlib安装、用法、PrivacyLeakWarning、epsilon与准确率权衡。摘要要简洁，不超过150字。注意中文字数。写一个摘要。</think>diffprivlib 是 IBM 开源的差分隐私库，与 Scikit-learn 无缝衔接，仅需替换 import 即可在模型训练中自动加噪。本文以鸢尾花数据集为例，演示了30秒跑通差分隐私高斯朴素贝叶斯分类器，并解释了 PrivacyLeakWarnin
2026-09-22 20:00:00
217
原创 华为廖恒论文拆解：把 BSP 套成六层、把冯·诺依曼往外扩，百万卡为什么还算「一台计算机」
不是二十万台机器粘起来的网络，而是一台计算机。这句话的野心不在硬件参数，而在定义权：冯·诺依曼当年定义了「一台计算机」是什么，八十年来我们把这条定义反复往单个处理器上套；当处理器数量走到百万级，需要重新定义的不是晶体管，而是「什么还算一台计算机」。论文给的答案是：软件一套套娃、硬件一套套娃，两层对齐，一条内存语义总线端到端，每个节点都是对等者——物理稀疏，逻辑紧密。至于它是不是对的，2026 年的产品会是第一轮答卷，而第三方能不能复现，才是最终的那轮。
2026-09-19 20:00:00
455
原创 AI 会代替 SaaS 吗？拆解 2026 年 SaaS 大重构：被杀的是界面层，不是数据层
2026年，AI Agent冲击下SaaS市值蒸发超万亿美元，引发“SaaS末日”争议。本文梳理关键事件，将SaaS拆解为六层价值：界面、薄工作流、计费层受AI重创，而系统记录、合规信任、网络分发三层难以替代。核心结论：AI吃掉的是“界面+流程+人头计费”，动不了“数据主权与责任归属”。未来形态转向AI增强、原生Agent、结果交付与编排平台。定价逻辑从“按人头”转向“按用量”“按结果”，真实报价揭示企业成本重构本质。
2026-09-19 11:00:15
460
原创 diffprivlib 中文实战教程 · 第0讲：系列预告——国内首套
本文是《diffprivlib 中文实战教程》系列首篇，聚焦“如何让会 Python 的人30分钟跑通首个差分隐私程序”。针对国内缺乏实用教程的现状，该系列从安装到发论文共9讲，涵盖隐私预算管理、噪声机制解析、模型改造等实战内容，助力开发者快速落地差分隐私，适用于数据科学、安全合规及科研人群。
2026-09-17 20:00:00
323
原创 本地差分隐私：苹果、谷歌和人口普查局的实践
本文摘要：本地差分隐私(LDP)是一种保护用户隐私的数据收集方法，每个用户在数据离开设备前自行加噪。与中心化差分隐私相比，LDP无需信任服务器但精度较低(误差O(1/ε√n))。核心算法是随机响应，通过概率控制隐私与精度权衡。Google的RAPPOR系统采用布隆过滤器和随机响应两层保护，应用于Chrome遥测数据收集。Apple则使用计数草图和较大隐私预算(ε≈1-4)收集用户行为数据。美国人口普查采用中心化差分隐私(ε≈17)发布统计数据。实际部署经验显示：隐私预算选择困难、实现细节关键、透明性重要，且
2026-09-15 20:00:00
385
原创 自适应数据分析：差分隐私的意外应用
本文探讨了差分隐私(DP)在解决选择性偏差问题中的创新应用。传统统计方法在面对自适应查询时因p-hacking等问题失效，而DP通过其核心机制——修改单条数据不会显著影响输出——为数据探索提供了自然约束。关键发现包括：1）DP的组合定理自动惩罚过度数据窥探；2）相比经典方法O(k)的样本复杂度，DP方法达到近乎最优的O(√k)；3）这种机制使动态数据分析既能保持探索自由又能确保统计可靠性。研究显示DP不仅保护隐私，更为科学研究的可复现性提供了新范式，其样本效率甚至逼近信息论下界。这一发现革新了传统预注册研究
2026-09-10 20:00:00
321
原创 DeepSeek 重回 4 月定价，国内主流大模型 API 价格全对比（2026 年 9 月版）
DeepSeek 这轮降价，把输入价格送回了 4 月，输出价格留在了 8 月。这不是一次"诚意回归"，而是一次典型的产品线重组：让 V4.1 Flash 顶替 V4 Pro，顺便把溢价收回去。对使用者来说，最实际的收获不是"又便宜了 60%"这个标题，而是国内大模型的定价已经细到需要按场景、按时段、按缓存命中率去算的地步了——粗放地按"哪家便宜"选型，一定会算错账。价格战打到现在，真正稀缺的已经不是"每百万 tokens 几分钱"这个数字，而是稳定、可预期、不会三个月翻一倍的成本结构。
2026-09-10 19:47:14
1914
原创 DeepSeek Harness v0.1.5 更新解读：V4.1 Flash 适配与 Agent Teams 实验性上线
V4.1 Flash 适配不是简单的模型切换，而是引入了in-history系统提示词模式，改变了 Agent Loop 的 prompt 管理策略，实现了 KV Cache 保留Agent Teams 是多 Agent 协作的架构级尝试，通过共享消息队列和任务板，将"委派"升级为"协作"Inbox 事件模型重构为跨 Agent 通信提供了统一的抽象，是 Agent Teams 和 continuable subagent 的底层支撑源码地址参考：分析基于aa8262ec09。
2026-09-10 18:58:08
849
1
原创 私有均值估计：最简单的统计问题
差分隐私下的均值估计：核心方法与权衡 均值估计是统计学基础问题，在差分隐私框架下仍可实现。核心发现包括： 二值估计误差为O(1/εn)，高维情况高斯机制优于拉普拉斯（误差O(√d/εn)）； 中心模型比本地模型效率更高（误差相差100倍）； 数据截断技术可有效控制异常值影响； 理想条件为低维度、大样本、有界数据范围； 关键权衡体现在隐私预算、维度、样本量的动态关系。 该问题揭示了差分隐私的核心特性：隐私成本随维度线性增长，但随样本量快速衰减，大数据集下隐私代价可忽略。
2026-09-08 20:00:00
301
原创 城市管理 Agentic RAG 完结篇｜从一行代码到 v1.0.0
城市管理 Agentic RAG —— 从零搭建城市管理问答系统：完结篇 · 专栏后记（不写代码，聊聊这一路）
2026-09-07 20:00:00
151
原创 08-M8-从原型到交付-15分钟上手的v1.0.0
项目收官：城市管理Agentic RAG系统完成最终交付 经过10天9个版本的迭代开发，城市管理Agentic RAG问答系统正式发布v1.0.0版本，实现从零搭建到完整交付。核心交付包括： 完善文档：README补充场景截图和部署指南，新增详细《部署手册》涵盖配置说明、FAQ及7个常见问题解决方案； 代码优化：清理调试痕迹，确保无残留TODO或调试语句； 版本发布：打标签v1.0.0并创建Release，包含全量里程碑信息。 系统验证了三大原则：数据隔离（分部门独立索引）、接口预留（灵活替换模型/库）、步
2026-09-06 08:30:00
613
原创 07-M7-Gradio Web界面-点两下就出研判报告
城市管理 Agentic RAG —— 从零搭建城市管理问答系统：M7 · Gradio Web 界面 + 场景入口（实测版）
2026-09-05 08:30:00
353
原创 现代机器学习中的差分隐私：DP-SGD 与 PATE
摘要： 本文介绍了现代机器学习中实现差分隐私（DP）的两大主流方法：DP-SGD和PATE。DP-SGD通过逐样本梯度裁剪、噪声注入和隐私累计分析（如矩会计师）保护训练过程，适用于各类模型但计算开销较大；PATE则利用教师模型集成投票加噪后训练学生模型，隐私性依赖于教师分歧，更适合分类任务。二者均面临隐私-效用权衡、超参数选择和大规模模型（如LLMs）适配等挑战。DP-SGD已成为工业界标准（如OpenAI、Google），而PATE在小样本场景表现突出。文章还对比了凸优化与非凸神经网络在DP背景下的差异，
2026-09-03 20:00:00
722
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人