Poisoning Web-Scale Training Datasets is Practical

最新推荐文章于 2025-12-18 23:11:02 发布
原创 最新推荐文章于 2025-12-18 23:11:02 发布 · 461 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #人工智能

本文是LLM系列文章，针对《Poisoning Web-Scale Training Datasets is Practical》的翻译。

中毒网络规模训练数据集是实用的

摘要

深度学习模型通常在从互联网抓取的分布式网络规模数据集上进行训练。在本文中，我们介绍了两种新的数据集中毒攻击，它们故意将恶意示例引入模型的性能。我们的攻击立即变得切实可行，今天可能会毒害10个流行的数据集。我们的第一个攻击是分裂视图中毒，它利用互联网内容的可变性来确保数据集注释器对数据集的初始视图与后续客户端下载的视图不同。通过利用特定的无效信任假设，我们展示了如何以60美元的价格毒害0.01%的LAION-400M或COYO-700M数据集。我们的第二次攻击是前端中毒，针对的是定期快照众包内容的网络规模数据集，如维基百科，攻击者只需要一个有时间限制的窗口来注入恶意示例。鉴于这两种攻击，我们通知了每个受影响数据集的维护人员，并推荐了几种低开销的防御措施。

1 引言

2 背景和相关工作

3 威胁模型和攻击场景

4 拆分视图数据中毒

</

最低0.47元/天 解锁文章
可信深度学习Trustworthy Deep Learning相关论文
weixin_39402231的博客
07-07 987
可信深度学习Trustworthy Deep Learning相关论文
对抗攻击与防御（2022年顶会顶刊AAAI、ACM、 ECCV、NIPS、ICLR、CVPR）adversarial attack and defense汇总
算法探索之路
03-19 6189
2022年 关于对抗攻击跟防御的全部顶会、顶刊论文
网络安全顶会——S&P '24 论文清单、摘要（中）
漏洞战争
04-03 8420
80、MQTTactic: Security Analysis and Verification for Logic Flaws in MQTT ImplementationsIoT消息传输协议对连接用户和物联网设备至关重要。在所有协议中，消息队列传输和遥测传输（MQTT）可以说是最广泛使用的。主流物联网平台利用MQTT代理，即MQTT的服务器端实现，来实现和调解用户设备通信（例如控制命令的传输）...
如何黑箱攻击影响大型语言模型的检索增强生成
步子哥的博客
07-22 1231
随着人工智能技术的飞速发展，大型语言模型（LLMs）在自然语言处理领域展示出了卓越的能力。然而，由于训练数据的限制，这些模型的知识范围有限，并且缺乏最新的信息，这可能导致在处理更复杂或时间敏感的任务时出现错误或幻觉。检索增强生成（RAG）结合了信息检索与大型语言模型的生成能力，提升了知识获取的时效性，有效缓解了这些模型的幻觉问题。然而，随着RAG应用范围的扩展，其安全性问题也逐渐凸显，特别是在面对恶意攻击时的表现。
AAAI-19录用论文清单
TomRen
01-28 1万+
AAAI-19于1月27日在夏威夷召开，今年是33届会议。 会议录用论文清单, workshop16个，tutorials24个。 标题的词云分析： 作者单位词云(按作者人数计算/一篇文章可能有多个作者)： picture from lonelyplanet.com 下面给出接收论文的列表： 第一个数字表示投稿的序号&amp;amp;内容可能有缺失 9: CircConv: A S...
推荐系统----2020会议文章集锦
weiwei935707936的博客
11-14 1万+
盘点 | AAAI2020中的四篇推荐系统好文 AAAI中推荐系统的文章并不多，目之所及处仅有四篇。内容上覆盖了评论推荐、多目标推荐以及图神经网络等话题。 本文基于AAAI中的这四篇推荐系统论文，展开瞅一瞅它们都讲了些什么。 第一篇文章：可解释评论的推荐中的非对称层次网络与专注的交互 Asymmetrical Hierarchical Networks with Attentive Interactions for Interpretable Review-Based Recommendation
对抗样本方向（Adversarial Examples）2018-2020年最新论文调研
huitailangyz的博客
06-15 1万+
调研范围 2018NIPS、2019NIPS、2018ECCV、2019ICCV、2019CVPR、2020CVPR、2019ICML、2019ICLR、2020ICLR 2018NIPS Contamination Attacks and Mitigation in Multi-Party Machine Learning（防御） 作者：Jamie Hayes(Univeristy College London) Olga Ohrimenko(Microsoft Research) 摘要：Machine
(上大)组会报告题目汇总（2020.9-2024.9）
qq_33509110的博客
07-05 5726
(上大)组会报告题目汇总(持续更新~) 2021.7.1 VERIFL: Communication-Efficient and Fast Verifiable Aggregation for Federated Learning(TIFS) 2021.6.24 Scalable and redactable blockchain with update and anonymity(InfoS) 2021.6.17 Decentralized Privacy-Preserving Fair Exchange
【论文阅读笔记】NeurIPS2020文章列表Part1
热门推荐
zincrain的博客
12-09 2万+
A graph similarity for deep learning An Unsupervised Information-Theoretic Perceptual Quality Metric Self-Supervised MultiModal Versatile Networks Benchmarking Deep Inverse Models over time, and the Neural-Adjoint method Off-Policy Evaluation and Learning.
【技术人如何用爬虫+机器学习识别并屏蔽恶意广告】第1课：爬虫与广告反欺诈入门
weiliang_Handan的博客
12-14 855
本文介绍了广告欺诈的现状及其危害，并提出了利用网络爬虫和机器学习技术进行反欺诈的解决方案。主要内容包括：1)网络爬虫的基本原理和工作流程；2)常见广告欺诈类型及其对行业的负面影响；3)系统化的反欺诈学习路径，从数据采集、预处理到模型训练和系统部署。通过构建自动化识别系统，可有效保护广告预算、优化投放策略并提升用户体验。文章还包含了一个简单的Python爬虫示例代码，帮助读者初步了解数据采集技术。
01.需要了解的五种机器学习类型
AI算法蒋同学的博客
12-18 414
ML 是计算机科学、[数据科学]和[人工智能] (AI) 的子集，它使系统能够从数据中学习和改进，而无需额外的编程干预。ML 模型不依赖用于性能优化的显示指令，而是采用算法和统计模型，以根据数据模式和推论来部署任务。换句话说，ML 利用输入数据来预测输出，并随着新数据的出现不断更新输出。例如，在零售网站上，机器学习算法通过根据购买历史提出建议来影响消费者的购买决策。
【Python学习打卡-Day23】从重复到重用：用Pipeline和ColumnTransformer重构你的机器学习工作流
最新发布
2301_76812716的博客
12-18 285
文章摘要 本文介绍了如何使用Scikit-learn的Pipeline工具优化机器学习工作流。Pipeline通过将数据预处理和模型训练封装成流水线，带来三大优势：代码简洁、防止数据泄露和简化超参数搜索。文章对比了传统手工预处理与Pipeline自动化处理的区别，详细讲解了转换器(Transformer)和估计器(Estimator)的核心概念，并以信贷违约数据集为例，展示了如何用ColumnTransformer对不同类型特征进行针对性处理，最终构建完整的Pipeline流程。这种工程化方法显著提升了代码
03.统计学机器学习
AI算法蒋同学的博客
12-18 531
本文探讨了机器学习中的统计思维基础，指出机器学习本质上是建立在统计学和概率论之上的统计过程。文章从三个核心概念展开：1）统计学作为从数据中提取洞察的科学，为机器学习提供数学基础；2）概率论作为量化不确定性的工具，是建模预测不确定性的关键；3）概率分布作为描述数据行为的数学函数，支撑着误差建模、损失函数设计等机器学习核心环节。文章强调，理解这些统计概念对于构建可靠、可解释的AI系统至关重要，它们是现代机器学习（从简单回归到复杂神经网络）的理论支柱。通过介绍描述性统计指标、概率基本概念和常见概率分布，为读者提供
机器学习进阶＜10＞分类器集成：集成学习算法
2303_77568009的博客
12-12 805
这篇博客是一篇关于分类器集成技术的全面实战指南，涵盖了从理论基础到代码实践的完整知识体系。文章以"三个臭皮匠顶个诸葛亮"的智慧为核心隐喻，系统阐述了如何通过组合多个弱分类器来构建强大的集成模型，从而突破单分类器的性能瓶颈。
小白从零开始勇闯人工智能：机器学习初级篇(pandas库)
m0_52496416的博客
12-09 1394
在上一篇文章中，我们学习了Python科学计算的核心库Numpy，在本章中我们将学习机器学习中负责数据处理和分析的Pandas库。Pandas是一个用Python编写的数据分析库，可以轻松处理数百万行数据，是AI工程师最常用的工具。
机器学习（决策树）
lyx2870657588的博客
12-18 830
决策树是一种有监督学习算法，通过构建分类规则对新样本进行预测。主要算法包括ID3（信息增益）、C4.5（信息增益率）和CART（基尼系数）。决策树通过剪枝防止过拟合，回归树模型则用于解决回归问题。随机森林作为集成学习方法，通过多棵决策树的组合提高性能，具有抗噪声能力强、不易过拟合等优点，但计算成本较高。AUC-ROC曲线是评估分类模型性能的重要指标。
从GAN到WGAN-GP：生成对抗网络的进化之路与实战详解
像风一样自由的博客
12-18 262
生成对抗网络的演进与WGAN-GP实现 本文系统梳理了GAN技术的演进历程，从原始GAN到WGAN再到WGAN-GP的改进过程。原始GAN存在训练不稳定、模式崩塌等问题，WGAN通过引入Wasserstein距离解决了梯度消失问题，而WGAN-GP进一步用梯度惩罚取代权重剪枝，使模型训练更加稳定。文章详细分析了各代GAN的数学原理和优缺点，并提供了WGAN-GP的核心PyTorch实现代码，包括梯度惩罚计算函数和训练循环示例。这些改进使生成对抗网络在图像生成等任务中表现出更稳定的训练过程和更好的生成效果。
04.机器学习中的线性代数？
AI算法蒋同学的博客
12-18 631
摘要：线性代数是机器学习的数学基础，用于数据表示、模型构建和优化。它通过向量、矩阵和张量等结构高效处理高维数据，支持线性回归、神经网络等算法。降维技术（如PCA）利用特征值和特征向量提取关键信息。现代ML工具（如NumPy）封装了线性代数运算，使从业者能专注于模型开发。掌握线性代数概念对理解机器学习原理和算法实现至关重要。
从 “碗状函数” 到 “坑坑洼洼”：机器学习的凸与非凸之战
进一步有进一步的欢喜~
12-14 670
本文将从凸函数的数学定义、直观理解出发，结合机器学习中的典型案例，对比凸函数与非凸函数的核心差异，并探讨非凸优化的实际解决方案，帮助读者建立对凸函数的系统认知。
File "D:\A-Software\Model-poisoning-attack-in-differential-privacy-based-federated-learning-main\main_fed_cifar_cnn.py", line 9, in <module> from torchvision import datasets, transforms处理问题
03-23
<think>好的，我现在需要帮助用户解决从torchvision导入datasets和transforms时报错的问题，报错位置在main_fed_cifar_cnn.py的第9行。首先，我需要根据用户提供的引用信息和常见解决方案来思考可能的原因和解决办法。 用户提到了三个引用，其中引用[2]提到了安装cairo库时的问题，以及解决依赖项的经验。这可能暗示环境配置或依赖库的问题。但torchvision的问题通常和PyTorch版本或安装完整性有关。 首先，常见的torchvision导入错误可能有以下几个原因： 1. **PyTorch和torchvision版本不兼容**：用户可能安装了不匹配的版本，导致无法正确导入模块。 2. **未正确安装torchvision**：可能只安装了PyTorch而没有安装torchvision，或者安装过程中出现错误。 3. **环境路径问题**：Python环境可能没有正确识别安装的库，尤其是在使用虚拟环境或conda环境时。 4. **系统依赖项缺失**：某些情况下，torchvision需要系统级的库支持，比如图像处理库。 接下来，我需要根据这些可能的原因逐一分析解决方法，并结合用户提供的引用信息。引用[2]中提到用户曾遇到安装cairocffi和editdistance的问题，并通过conda安装cairo解决了问题。这可能意味着用户使用的是conda环境，因此推荐使用conda来安装或更新torchvision可能更有效。 步骤分解： 1. **检查PyTorch和torchvision版本兼容性**：用户需要确认两者版本是否匹配。可以查看官方文档的版本对应表，例如PyTorch 1.12需要对应的torchvision版本。 2. **重新安装或更新torchvision**：使用pip或conda命令进行安装，确保安装过程中没有错误。conda有时能更好地处理系统依赖，比如引用[2]中的cairo问题。 3. **验证安装环境**：确保运行代码的环境是安装库的环境，特别是使用虚拟环境时，激活正确的环境。 4. **安装系统依赖项**：例如，在Linux上可能需要安装libjpeg或zlib等库，可以通过系统包管理器安装。 5. **检查CUDA和cuDNN版本**：如果使用GPU，需要确保PyTorch版本与CUDA驱动兼容。 此外，用户的问题出现在main_fed_cifar_cnn.py中，可能涉及联邦学习的代码。引用[3]提到联邦平均的实现，可能与代码结构无关，但需确保代码中没有其他导入错误或语法问题。 最后，需要建议用户尝试以上步骤，并提供具体的命令示例，如使用conda安装或pip安装指定版本。同时，提醒用户注意环境激活和依赖项安装，如引用[2]中提到的通过conda解决cairo问题的经验。</think>### 逐步解决方案 #### 1. 检查版本兼容性 PyTorch和torchvision版本必须严格匹配。以下是官方推荐的版本对应关系示例： - PyTorch 1.12.0 → torchvision 0.13.0 - PyTorch 2.0.1 → torchvision 0.15.2 **操作步骤**： ```bash # 查看当前安装版本 python -c "import torch; print(torch.__version__)" python -c "import torchvision; print(torchvision.__version__)" ``` #### 2. 重新安装匹配版本 使用conda或pip安装指定版本的torchvision（推荐优先使用conda，因其能自动处理系统依赖）： ```bash # conda方式（需指定与PyTorch匹配的版本） conda install torchvision==0.13.0 -c pytorch # 假设PyTorch版本为1.12.0 # pip方式 pip install torchvision==0.13.0 --no-cache-dir ``` #### 3. 验证环境激活状态 确保代码运行在已安装库的环境中： ```bash # 检查当前Python环境路径 which python # Linux/Mac where python # Windows ``` #### 4. 安装系统级依赖（Linux/Windows） - **Linux**： ```bash sudo apt-get install libjpeg-dev zlib1g-dev libopenblas-dev ``` - **Windows**：需通过conda安装预编译的库： ```bash conda install -c conda-forge libjpeg-turbo openblas ``` #### 5. 清理并重装（针对安装残留问题） ```bash pip uninstall torch torchvision -y pip cache purge pip install torch torchvision --index-url https://download.pytorch.org/whl/cu117 # 示例CUDA 11.7版本 ``` --- ### 相关问题 1. **如何检查PyTorch与CUDA的兼容性？** - 运行 `python -c "import torch; print(torch.cuda.is_available())"` 验证CUDA是否可用[^2]。 2. **conda和pip混用导致环境混乱怎么办？** - 建议使用 `conda clean --all` 清理缓存后，创建新环境重新安装。 3. **联邦学习代码中导入torchvision失败会影响哪些功能？** - 数据加载（如CIFAR-10）和图像预处理（`transforms`模块）会直接失效[^1][^3]。 [^1]: 引用[1]提到代码封装了数据相关功能，依赖`torchvision.datasets`加载标准数据集。 : 引用[2]强调环境配置问题，如系统路径和依赖库安装。 [^3]: 引用[3]指出联邦平均的实现需要数据预处理模块支持。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值