Bosenya12-CSDN博客

原创【论文阅读】GLiRA: Black-Box Membership Inference Attack via Knowledge Distillation（2024）

Membership inference attack，成员推理攻击。knowledge distillation，知识蒸馏。trustworthy AI，可信人工智能。

2024-08-23 14:13:44 512

原创【论文阅读】MEGA: Model Stealing via Collaborative Generator-Substitute Networks（2022）

Deep machine learning models（深度机器学习模型） are increasingly（越来越多） deployed（部署） in the wild（在野外） for providing services to users（给用户提供服务）. Adversaries may steal the knowledge of these valuable models（窃取有价值模型的知识） by training substitute models（训练替代模型） according t

2024-08-23 10:01:28 872

原创【论文阅读】Model Stealing Attacks Against Inductive Graph Neural Networks（2021）

Many real-world data（真实世界的数据） come in the form of graphs（以图片的形式）. Graph neural networks (GNNs 图神经网络), a new family of machine learning (ML) models, have been proposed to fully leverage graph data（充分利用图数据） to build powerful applications（构建强大的应用程序）. In parti

2024-08-22 10:02:24 724

原创【论文阅读】Model Extraction Attacks on Graph Neural Networks: Taxonomy and Realisation（2021）

Model Extraction Attack，模型提取攻击。Graph Neural Networks，图神经网络。

2024-08-22 09:34:58 734

原创【论文阅读】Defense-GAN: Protecting Classifiers Against Adversarial Attacks Using Generative Models（2018）

In recent years（近年来）, deep neural network approaches（深度神经网络方法） have been widely adopted for（被广泛应用于） machine learning tasks（机器学习任务）, including classification（分类）. However, they were shown（被证明） to be vulnerable（容易受到） to adversarial perturbations（对抗性扰动）: care

2024-08-21 15:18:03 453

原创【论文阅读】DaST: Data-free Substitute Training for Adversarial Attacks（2020）

Machine learning models（机器学习模型） are vulnerable（容易受到） to adversarial examples（对抗样本）. For the black-box setting（对于黑盒设置）, current substitute attacks（目前替代攻击） need pre-trained models（预训练模型） to generate adversarial examples（生成对抗样本）. However, pre-trained models（预

2024-08-21 14:36:18 965

原创【论文阅读】Zero-Shot Knowledge Distillation from a Decision-Based Black-Box Model（2021）

样本距离（Sample Distance, SD）：计算样本到其他类别样本的最小欧几里得距离，以估计样本对其他类别的鲁棒性。边界距离（Boundary Distance, BD）：通过二分搜索找到样本到教师模型决策边界的最近点，并计算该点到样本的距离。最小边界距离（Minimal Boundary Distance, MBD）：进一步优化BD，通过零阶优化估计边界梯度，并沿梯度方向推动样本远离边界，直到找到最小化距离的点。

2024-08-21 14:02:48 1019

原创【论文阅读】PRADA: Protecting Against DNN Model Stealing Attacks（2019）

Alternative（备选） model stealing attacks（模型窃取攻击） assume（假设） access to large sets of natural samples（可以访问大量自然样本） and use active learning strategies（主动学习策略） to select the best samples（选择最佳的样本） to query [37].

2024-08-21 09:57:35 834

原创【论文阅读】APMSA: Adversarial Perturbation Against Model Stealing Attacks（2023）

换句话说，对于威胁模型隐私的模型窃取攻击，利用API查询公共数据的可接受次数(即通常较小)，并从MUA获取返回的预测，以构建用于训练替代/被盗模型的“传输数据集”，从而危及MUA的隐私并破坏其业务价值。值得注意的是，除了私下使用被盗模型进行进一步的免费查询外，被盗模型还可以用来制作可转移的对抗示例来欺骗MUA[12]，[13]。攻击者通过私有模型提供的付费查询服务(即MLaaS提供的API)，对查询的输入x获得预测y，在某些情况下，返回的预测通常是概率向量(即x属于特定类别的置信度)或标签(top-1)。

2024-08-20 11:37:26 1128

原创【论文阅读】Prediction Poisoning: Towards Defenses Against DNN Model Stealing Attacks（2020）

对DNN模型窃取攻击的防御从被动防御到主动防御。

2024-08-20 08:57:08 735

原创【论文阅读】Black-Box Dissector: Towards Erasing-based Hard-Label Model Stealing Attack（2021）

Previous studies have verified that（先前的研究已经证实） the functionality of black-box models（黑盒模型的功能） can be stolen with full probability outputs（全概率输出）. However, under the more practical hard-label setting（在更实际的硬标签设置下）, we observe that existing methods（现有的方法） suf

2024-08-19 15:04:35 864

原创【论文阅读】Learning Black-Box Attackers with Transferable Priors and Query Feedback（2020）

在模型窃取攻击中，攻击者通过对受害者模型进行查询，并利用查询结果反向构建具有相似功能的替代模型。然后，攻击者可以利用替代模型发起进一步的对抗攻击。

2024-08-19 14:22:52 919

原创【论文阅读】ActiveThief: Model Extraction Using Active Learning and Unannotated Public Data（2020）

Quiring, Arp, and Rieck (2018) show that（表明） when the secret model（秘密模型）is a decision tree（决策树）, defenses against model watermarking（模型水印） can also be used as defenses（用于防御） for model extraction attacks（模型提取攻击）.

2024-08-19 13:40:08 1100

原创【论文阅读】Enhance Model Stealing Attack via Label Refining（2022）

The Black-box dissector (BD) [5] uses a prior-driven（先验驱动） erasing operation（擦除操作）, which can fit（拟合） the victim’s attention map（注意图） while obtaining other classes’ information via erasing the attention area of the sample（通过擦除样本的注意区域）.model stealing：模型窃取。

2024-08-19 10:27:07 1162

原创【论文阅读】Copycat CNN: Stealing Knowledge by Persuading Confession with Random Non-Labeled Data（2018）

In the past few years, Convolutional Neural Networks (CNNs 卷积神经网络) have been achieving state-of-the-art performance（已经取得了最先进的性能） on a variety of problems（在各种问题上）.

2024-08-16 15:01:04 657 2

原创【论文阅读】Knockoff Nets: Stealing Functionality of Black-Box Models（2019）

这篇论文《Knockoff Nets: Stealing Functionality of Black-Box Models》由Tribhuvanesh Orekondy、Bernt Schiele和Mario Fritz撰写，探讨了在黑盒交互条件下，攻击者能够多大程度上复制一个“受害者”机器学习模型的功能。问题背景机器学习模型，尤其是深度神经网络，被广泛部署在各种应用中以提高效率或用户体验。开发这些模型需要大量的时间、金钱和人力，但一旦部署，它们可能面临被攻击者复制功能的风险。研究问题。

2024-08-16 12:35:24 1078 2

原创【学习笔记】如何训练大模型

单个 GPU 工作线程的内存有限，并且许多大型模型的大小已经超出了单个 GPU 的范围。有几种并行范式可以跨多个 GPU 进行模型训练，还可以使用各种模型架构和内存节省设计来帮助训练超大型神经网络。

2024-08-13 08:31:30 513

原创【实验代码】Implementation of FGSM and PGD

快速梯度符号方法Projected Gradient Descent。

2024-08-12 14:57:23 298

原创【图书阅读】人工智能数据与模型安全

可信机器学习是机器学习的一个新兴的分支，旨在解决现有机器学习算法和模型的可信度问题。可解释性一般鲁棒性对抗鲁棒性（对抗性攻击和防御）数据中毒（数据中毒和防御）后门鲁棒性（后门攻击和防御）隐私（数据泄露和模型窃取）差分隐私联邦学习公平性数据篡改和伪造。

2024-08-12 10:31:28 985

原创【论文阅读】A Robust Adversarial Network-Based End-to-End Communications System With Strong Generalization

本文提出了一种基于GAN的通信系统端到端学习防御方法，该方法使用生成网络对强大的对抗性扰动进行建模，并联合训练端到端通信系统对抗生成攻击网络。我们的方法可以学习一个端到端通信系统，该系统对各种对抗性扰动(包括白盒和黑盒攻击)具有鲁棒性，而不会降低系统的泛化性能。在评估结果中，基于GAN的通信系统比经典通信方案和经过常规训练和对抗性训练的端到端通信系统表现出更好的性能和防御能力。

2024-08-09 15:27:01 911

原创【资源分享】外文文献检索网站

网址链接：https://www.sci-hub.st/Sci-hub是一个可以无限搜索、查阅和下载大量优质论文的数据库。其优点在于可以免费下载论文文献。

2024-08-08 15:26:06 307

原创【免费资源】GPU资源

大模型资源丰富8核24G显存可以免费白嫖36小时。

2024-07-10 00:14:14 219

原创【算法介绍】开集识别算法 OpenMax

OpenMax是一种用于深度学习模型的，它能够在模型的输出中区分已知类别和未知类别。该算法的核心思想是利用深度神经网络的倒数第二层（全连接层）的激活向量，通过构建每个类别的平均激活向量（MAV）和距离集（D），进而使用极值理论（EVT）来拟合这些激活向量的分布，从而计算出每个测试样本属于已知类别的概率。如果一个测试样本的概率低于某个阈值，则它被认为是未知类别。

2024-06-25 15:29:44 694

原创【python包安装】手动安装libmr

libMR介绍libMR（即"Library for Machine learning on ROC space"）是一个用于在ROC空间进行机器学习的库，主要用于处理开集识别（Open Set Recognition）和相关问题。在开集识别中，通常需要区分已知类别和未知类别的数据，而libMR提供了一些工具和算法来帮助处理这种情况。libMR应用ROC空间方法: libMR专注于ROC（Receiver Operating Characteristic）空间的分析和方法。

2024-06-22 11:34:50 758

原创【Research】Model Stealing

Accuracy？Fidelity？

2024-06-21 23:51:48 977

原创【开源实验】模型窃取（KnockoffNet）

使用KnockoffNet方法对预训练的Resnet50模型进行模型窃取攻击（model stealing attack）

2024-06-17 17:10:15 333

原创【python库】timm

库 “timm” 是一个用于视觉模型的PyTorch库，全称为 “PyTorch Image Models”。它提供了许多现代的图像分类、目标检测、语义分割等深度学习模型的实现，旨在简化模型的使用和训练过程。

2024-06-17 16:25:15 369

原创【代码调试】ImportError: cannot import name ‘zero_gradients‘ from ‘torch.autograd.gradcheck‘

最近在复现运行代码时候遇到以下错误：ImportError: cannot import name ‘zero_gradients’ from ‘torch.autograd.gradcheck’ (C:\Users\zsh\anaconda3\envs\zshpytorch\lib\site-packages\torch\autograd\gradcheck.py)删掉以下代码修改替换为参考链接Pytorch1.9 ImportError: cannot import name ‘zero_gra

2024-06-13 17:03:07 295

空空如也

空空如也