【OST】OST: Improving Generalization of DeepFake Detection via One-Shot Test-Time Training

最新推荐文章于 2024-09-26 19:09:36 发布

jessIoss

最新推荐文章于 2024-09-26 19:09:36 发布

阅读量14

点赞数

分类专栏：论文阅读笔记DeepFake 文章标签：神经网络深度学习人工智能

本文链接：https://blog.csdn.net/sinat_39223177/article/details/142313142

版权

论文阅读笔记DeepFake 专栏收录该内容

31 篇文章 4 订阅 ¥15.90 ¥99.00

订阅专栏

超级会员免费看

文章目录

OST: Improving Generalization of DeepFake Detection via One-Shot Test-Time Training
kye points
方法
- 在线测试时间训练
- 离线元训练
实验
消融实验
- OST适应
- 多重梯度下降步骤
总结

OST: Improving Generalization of DeepFake Detection via One-Shot Test-Time Training

会议：NeurIPS 2022
作者：
在这里插入图片描述

kye points

本文引入了一种胡咱们为可泛化深伪检测任务设计的新范式
关键思想： 构造一个特定于测试样本的辅助任务【以便在将模型应用于样本之前更新模型】

从每个测试图像中合成伪训练样本，并创建一个测试时间训练目标来更新模型。

建议利用元学习来确保快速的单步测试时间梯度下降，称为一次性测试时间训练(OST)，足以获得良好的深度伪造检测性能。

了解本专栏

订阅专栏解锁全文

超级会员免费看

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

jessIoss

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

订阅专栏

NLP：Improving Language Understanding by Generative Pre-Training

04-21

这种方法的核心在于无监督的预训练（generative pre-training）和有监督的微调（fine-tuning）。由于大规模的无标注文本数据丰富，但针对特定任务的标注数据稀缺，因此直接用少量标注数据训练判别式模型往往表现不佳...

Improving-Deep-Neural-Networks-Hyperparameter-tuning-Regularization-and-Optimization:我从不断完善的深度神经网络进行编程作业的解决方案

05-08

在提供的压缩包文件中，"Improving-Deep-Neural-Networks-Hyperparameter-tuning-Regularization-and-Optimization-master"可能包含了实现上述概念的代码示例和实验。这些资源可以帮助读者深入理解并实践这些深度...

参与评论您还未登录，请先登录后发表或查看评论

Siamese-Network-for-One-shot-Learning:训练神经网络的项目，仅举一个例子

05-24

使用基于内核的激活功能为一击学习改善暹罗网络（）人类通过很少的示例学习新事物，例如，一个孩子可以从一张图片中概括“狗”的概念，... title={Improving Siamese Networks for One-Shot Learning Using Kerne

重构改善既有代码的设计-Refactoring：Improving the Design of Existing Code

04-25

### 重构改善既有代码的设计 #### 一、重构的基本概念重构是指在不改变软件外部行为的情况下，通过修改代码来优化其内部结构的过程。这一过程旨在提高代码的可读性、可维护性和可扩展性，使得软件开发人员能够...

利用深度分辨式说话人编码器提高一次语音转换的鲁棒性_Improving robustness of one-shot voice

01-23

利用深度分辨式说话人编码器提高一次语音转换的鲁棒性_Improving robustness of one-shot voice conversion with deep discriminative speaker encoder.pdf

神经网络（五）：U2Net图像分割网络

悟兰因的博客

09-25

1061

这篇文章基于显著目标检测任务提出，显著目标检测是指将图像中最吸引人的目标或者区域分割出来，因此只有前景和背景两个类别，相当于语义分割中的二分类任务。例如，下图中展示了三张图片进行显著目标检测后的结果：其中，白色区域代表前景，即最吸引人的目标或区域，而黑色区域代表背景。在U2NetAlexNetVGGResNetResNeXt为解决上述问题，提出了U2Net。

故障诊断 | 基于双路神经网络的滚动轴承故障诊断

关注并私信文章链接，获取对应文章源码和数据，机器学习之心的博客。

09-23

231

故障诊断 | 基于双路神经网络的滚动轴承故障诊断

深入探讨AI 神经网络：类型、特点与创新应用

梵心白莲的博客

09-26

998

深入剖析不同类型神经网络的特点及在 AI 中的创新应用是本论文的主要目的。通过对各种神经网络的结构、原理、特点进行分析，我们可以更好地理解它们在人工智能中的作用。同时，结合实际应用案例，探讨不同类型神经网络在图像识别、语音识别、自然语言处理等领域的创新应用，为人工智能的发展提供理论支持和实践指导。

CNN-LSTM预测 | MATLAB实现CNN-LSTM卷积长短期记忆神经网络时间序列预测

关注并私信文章链接，获取对应文章源码和数据，机器学习之心的博客。

09-25

301

CNN-LSTM预测 | MATLAB实现CNN-LSTM卷积长短期记忆神经网络时间序列预测

一起了解计算机神经网络

最新发布

梵心白莲的博客

09-26

740

本文简单介绍计算机神经网络的基本原理、主要类型及其在各个领域的应用。我们将从神经网络的基础概念出发，逐步深入探讨各种类型的神经网络架构，以及它们在解决实际问题中的具体应用。此外，我们还将讨论当前面临的挑战和未来的发展趋势，帮助读者更好地理解这一前沿技术。

神经网络介绍及其在Python中的应用（一）

小高~的博客

09-26

847

LR类继承自nn.Module，其中self.linear定义了一个线性层，输入和输出特征均为1。神经网络通过层叠多个非线性变换，能够学习到复杂的模式和特征。在实际应用中，通过选择合适的架构、激活函数和优化算法，可以实现高效的模型训练和预测。随着深度学习技术的不断发展，神经网络将在更广泛的领域发挥作用。码字艰辛，本篇内容就分享至此，如果渴望深入了解更多Python机器学习方面的应用，别忘了点击关注博主，引导你从零开始探索Python在统计分析上的奥秘。《Python之机器学习》

深度学习：神经网络--手写数字识别

纸上得来终觉浅

09-22

1873

神经网络--手写数字识别

【深度学习】03-神经网络 5 (完结篇) 一文讲解 pytroch手机价格神经网络分类与准确率优化案例

weixin_41645791的博客

09-25

786

并使用 PyTorch 的 TensorDataset 来将数据集构建为 Dataset 对象，方便构造数据集加载对象。所谓的训练函数，指的是输入数据读取、送入网络、计算损失、更新参数的流程，该流程较为固定。使用训练好的模型，对未知的样本的进行预测的过程。2.第二层: 输入为维度为 128, 输出维度为: 256。1.第一层: 输入为维度为 20, 输出维度为: 128。3.第三层: 输入为维度为 256, 输出维度为: 64。4.第四层: 输入为维度为 64, 输出维度为: 4。

神经网络（四）：UNet图像分割网络

悟兰因的博客

09-25

1296

UNet网络是一种用于图像分割的卷积神经网络，其特点是采用了U型网络结构，因此称为UNet。编码器：逐步提取输入图像的特征并降低空间分辨率。解码器：通过上采样操作将特征图恢复到原始输入图像的尺寸，并逐步生成分割结果。【CNN角度的编码器、解码器】以卷积神经网络为例，输入为一个猫，进行特征提取后输出图片类别。编码器：完成对输入图片中猫的特征提取。解码器：将特征提取的结果解码为分类结果。【RNN角度的编码器、解码器】以循环神经网络LSTM为例，输入为一个文本，进行特征提取再输出。

神经网络修剪实战

新缸中之脑

09-23

845

修剪神经网络是一个古老的想法，可以追溯到 1990 年（Yan Lecun 的最佳脑损伤工作）甚至更早。这个想法是，在网络中的众多参数中，有些是多余的，对输出的贡献不大。如果你可以根据网络中神经元的贡献程度对它们进行排序，那么你就可以从网络中删除排名较低的神经元，从而得到一个更小、更快的网络。获得更快/更小的网络对于在移动设备上运行这些深度学习网络非常重要。可以根据神经元权重的 L1/L2 平均值、它们的平均激活、神经元在某些验证集上不为零的次数和其他创造性方法进行排名。

神经网络面试题目

小飞猪的博客

09-22

1344

神经网络面试题

基于深度学习的多智能体协作

weixin_42605076的博客

09-23

1032

基于深度学习的多智能体协作是一种通过多个智能体相互协作完成复杂任务的框架，利用深度学习技术来优化智能体之间的合作与决策过程。多智能体系统广泛应用于自动驾驶、机器人群体、游戏AI、资源调度、无人机编队等领域，其中每个智能体通常具有自主性，并与其他智能体共享信息或协同工作，以共同实现全局目标。

[论文总结] 深度学习在农业领域应用论文笔记13

You and Me

09-25

1147

这篇论文的立意是从实际出发的，与很多根据卫星图像来预测产量的文章不同，该研究的目的强调了不是产量预测而是提出使用棉花种植区块产量和纤维质量（长度和微米）数据来说明作物生产数据的缩小区域观测的通用方法。在实验数据方面，采用了澳大利亚11个种植区域2年生长季节260天的生长数据，8种不同植被指数、32个协变量和棉花的产量和棉纤维微米（质量）以及总共有约25张卫星图像可用于 NNSW区域，约70 张图像可用于SNSW区域。数据量挺大的，做的内容也具有实际意义。挺好的一篇文章。

在深度学习中，是否应该打破正负样本1:1的迷信思想？

Angelina_Jolie的博客

09-25

750

如果任务很简单（如上图第一行的数据分布，线性可分），那么即便有很悬殊的正负样本数量比例（如最右侧，正负样本 1:100），也不影响模型可以直接在原始数据上学习得到一个完美的分类边界，并实现 0 错误率：见下图第一行，即使 IR=100 模型也可以实现 0 分类错误（分类错误的 sample 由红色表示）。但通常我们都更加关心少数类样本（positive cases，例如医疗诊断中的病人、欺诈/攻击检测中的恶意用户等）并使用 balanced accuracy，macro-f1 等 metric。

improving adversarially robust few-shot image classification with generaliza

05-09

在计算机视觉领域中，Few-shot图像分类指的是能够从很少的有标记图像样本中快速高效地完成图像分类任务的能力。然而，随着深度学习被广泛应用于计算机视觉领域，人们发现深度神经网络在Few-shot图像分类中容易受到对抗性攻击的影响，使得其效果进一步下降。因此，提高Few-shot图像分类的对抗鲁棒性已经成为了当前计算机视觉研究的热点。为此，学者们提出了各种方法，其中，广义Few-shot图像分类是一种非常有潜力的方法，其基本思想是利用一组大规模的低维特征表示，将少量有标注图像迁移到新的目标任务，并在新任务中完成Few-shot图像分类。广义Few-shot图像分类方法的加强对抗鲁棒性，主要体现在两个方面。第一方面，在特征提取部分引入正则化项，对模型在少量数据上的鲁棒性进行限制，降低对抗性攻击的影响。第二方面，利用输出层中的权重来生成抗对抗噪声，提高模型的对抗鲁棒性。总体来说，广义Few-shot图像分类能够在保证Few-shot分类准确率的同时，提高模型的对抗鲁棒性，并且该方法具有很好的泛化性，因此被广泛应用于计算机视觉领域中，尤其是在需要快速学习、数据稀少的情况下，其效果更加显著。