【ViT+Dis】Deepfake Detection Scheme Based on Vision Transformer and Distillation

于 2024-09-17 11:57:48 发布
阅读量5 收藏
点赞数
分类专栏： 论文阅读笔记 Deepfake 文章标签： transformer 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_39223177/article/details/142183846
版权

文章目录

Deepfake Detection Scheme Based on Vision Transformer and Distillation

会议：2021
作者：
在这里插入图片描述

key points

以往基于CNN结构的研究不仅存在过拟合的问题，而且存在对假视频与真实视频的严重误判。

本文提出了一个ViT模型与蒸馏方法来检测假视频，并设计了一个基于CNN特征和补丁的定位模型，学习与所有位置的交互来找到伪影【解决假阴性问题】

通过对Deepfake Detection (DFDC)数据集的对比分析，我们验证了以patch嵌入作为输入的方案优于使用组合CNN特征的最新方案。

向VIT添加了一个蒸馏令牌，并将补丁嵌入和CNN特征一起用于模型输入，以创建用于深度伪造检测的更广义的模型

深伪检测

了解本专栏 订阅专栏 解锁全文 超级会员免费看
jessIoss
关注
专栏目录
订阅专栏
deepfake视频检测-基于卷积Vision-Transformer实现的deepfake视频检测-优质项目实战.zip
04-08
在当前的数字化时代，深度伪造（Deepfake）技术的发展带来了一系列的社会问题，它可以通过人工智能手段篡改或合成视频，使得真实与虚假难以分辨。为了应对这一挑战，研究人员和开发者不断探索有效的检测方法，其中，...
VIT(vision transformer)实现图像分类
05-29
VIT(vision transformer)实现图像分类，是将transformer首次应用于CV(计算机视觉)领域，该资源包含所有源代码，拿走技能运行跑通，包含数据集和训练好的权重，分类精度高达99%以上。
猫狗数据集的二分类图像识别项目：基于VIT(vision transformer)
02-08
1、本项目基于VIT(vision transformer)迁移学习的图像分类。 2、模型已训练好，可以直接运行，服务器上使用8个GPU，训练200个epoch，accuracy达到0.995。 3、资源中包含了猫狗二分类数据集。 4、如果想要训练自己...
图像分类：Pytorch实现Vision Transformer（ViT）进行图像分类
04-17
**图像分类：Pytorch实现Vision Transformer（ViT）进行图像分类** 在计算机视觉领域，图像分类是一项基础且关键的任务，其目标是将输入图像分配到预定义的类别中。近年来，Transformer模型，最初由Vaswani等人在...
vision-transformer-pytorch:带有预训练模型的Pytorch版本的Vision Transformer（ViT）。 这是CASL（https
04-13
conda create --name vit --file requirements.txt conda activate vit 可用型号 我们提供，这些是从原始jax / flax wieghts转换而来的。 您可以下载它们并将文件放在“ weights / pytorch”下以使用它们。 否则，...
基于深度学习的多模态信息检索
weixin_42605076的博客
09-13 1191
基于深度学习的多模态信息检索技术，通过多模态特征的提取、融合和匹配，实现了从多种数据模态中进行高效检索的能力。随着深度学习技术的不断进步，特别是注意力机制和变换器架构的应用，多模态信息检索将在多个领域展现出更广泛的应用前景和潜力。
RNN股票预测(Pytorch版)
qq_52237775的博客
09-16 364
记录RNN实战
《深度学习》深度学习 框架、流程解析、动态展示及推导
wx_AHao1004Y的博客
09-12 1416
深度学习是一种基于人工神经网络架构进行机器学习的技术方法。它模拟人类大脑的神经网络结构和工作原理，通过多层次的神经元网络，对大量的输入数据进行处理和分析，从而实现对数据的自动学习和抽象表示，进而实现对复杂问题的解决和预测。 深度学习的核心是深度神经网络，它由多个隐藏层组成，每个隐藏层包含多个神经元节点。每个神经元节点都与上一层和下一层的神经元节点相连，通过对这些节点之间的连接权重进行调整，使得网络能够对输入数据进行有效的学习和表示。
【深度学习|PyTorch】基于 PyTorch 搭建 U-Net 深度学习语义分割模型——附代码及其解释！
985小水博的摸鱼日常
09-14 562
【深度学习|PyTorch】UNet学习笔记！
【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程
yangyu0515的博客
09-13 1415
【深度学习】【OnnxRuntime】【python】模型转化、环境搭建以及模型部署的详细教程
深度学习实战89-基于改造后的长短期记忆网络LSTM 的猪肉价格预测模型研究
weixin_42878111的博客
09-13 348
大家好，我是微学AI，今天给大家介绍一下深度学习实战89-基于改造后的长短期记忆网络LSTM 的猪肉价格预测模型研究。本文围绕基于改造后的长短期记忆网络 LSTM 的猪肉价格预测模型展开研究。首先介绍项目背景，阐述进行猪肉价格预测的重要性。接着详细讲解改造后的 LSTM 模型原理，为预测提供理论基础。
秃姐学AI系列之：实战Kaggle比赛：狗的品种识别（ImageNet Dogs）
m0_62415132的博客
09-11 874
在这里，我们选择预训练的ResNet-34模型，我们只需重复使用此模型的输出层（即提取的特征）的输入。然后，我们可以用一个可以训练的小型自定义输出网络替换原始输出层，例如堆叠两个完全连接的图层。因此，我们可以使用 微调中讨论的方法在完整ImageNet数据集上选择预训练的模型，然后使用该模型提取图像特征，以便将其输入到定制的小规模输出网络中。在计算损失之前，我们首先获取预训练模型的输出层的输入，即提取的特征。的处理一样，即从原始训练集中拆分验证集，然后将图像移动到按标签分组的子文件夹中。
基于深度学习的信号滤波：创新技术与应用挑战
XU157303764的博客
09-09 1675
多尺度频域分析是一种将信号在不同频率尺度上进行分解和分析的方法。它通过使用特定的变换工具，如小波变换、多分辨率分析等，将信号分解为不同频率和时间尺度的成分。这种方法在多个领域都有着广泛的应用。在图像处理领域，多尺度频域分析可以用于图像去噪、边缘检测、图像压缩等。例如，通过小波变换可以将图像分解为不同尺度的小波系数，其中低频系数代表图像的大致轮廓和主要信息，高频系数则代表图像的细节和边缘信息。通过对不同尺度的系数进行处理，可以实现图像的去噪和增强。
python AssertionError: Torch not compiled with CUDA enabled
码农的专栏
09-15 364
修改一下代码，将cuda改成cpu。
【梯度消失|梯度爆炸】Vanishing Gradient|Exploding Gradient——为什么我的卷积神经网络会不好呢？
985小水博的摸鱼日常
09-15 730
【梯度消失|梯度爆炸】学习笔记
深度学习速通系列:one-hot编码
Ven%的博客
09-14 475
One-Hot编码是机器学习中处理分类特征的重要技术，它通过将分类变量转换为二进制向量，使得机器学习算法能够有效地处理这些变量。然而，使用时需要权衡其对特征维度、稀疏性、信息表示和模型选择的影响。在实际应用中，应根据数据的特点和模型的需求选择合适的编码策略。
【深度学习 Transformer VIT】Transformer VIT：拆解“视觉变形金刚”，笑谈技术细节
赖德发的博客
09-13 473
话说在深度学习江湖，卷积神经网络（CNN）一直是视觉识别任务的“老大哥”。但这位老大哥有时候也会遇到难题，比如处理复杂场景和大规模数据时，就显得有点力不从心。就在这时，一位名叫Transformer VIT的“侠客”横空出世，它借鉴了自然语言处理领域的Transformer架构，立志要改变视觉识别的江湖格局。今天咱们来点不一样的，用幽默的方式解读一下那个让计算机视觉界为之疯狂的模型——Transformer VIT。标题：Transformer VIT：拆解“视觉变形金刚”，笑谈技术细节。
回归预测|基于遗传优化卷积神经网络的数据回归预测Matlab程序GA-CNN 多特征输入单输出 附赠基础CNN
最新发布
2401_86241083的博客
09-16 867
回归预测|基于遗传优化卷积神经网络的数据回归预测Matlab程序GA-CNN 多特征输入单输出 附赠基础CNN
机器学习和深度学习存在显著区别
lupai的博客
09-13 447
机器学习和深度学习在多个方面存在显著的区别，以下是对这些区别的详细阐述：
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值