skip-GANomaly复现总结

最新推荐文章于 2024-09-02 08:02:04 发布
最新推荐文章于 2024-09-02 08:02:04 发布
阅读量4.6k 收藏 42
点赞数 5
分类专栏： GAN 文章标签： 计算机视觉 深度学习 GAN
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq7835144/article/details/111066919
版权

文章目录

skip-GANomaly复现总结

附MvTec数据集

链接：https://pan.baidu.com/s/17giC2Rf5FL5XjNM0AaXrlA
提取码：slv2

介绍

skip-GANomaly结合了UNet和GANomaly这两种模型，使用了skip-connection的网络结构。如下图所示
在这里插入图片描述在这里插入图片描述

  • skip-GANomaly由一个自编码器和判别器组成。也可以把自编码器的部分看作是一个生成器。编码器与解码器之间有skip-connection连接。
  • 生成器通过三个损失函数按照一定的权重相加得到的总损失函数进行优化。这三个损失函数分别为：原图像和生成图像的重构误差；生成器生成的图像经过判别器判别得到的交叉熵（也可以称作对抗损失）；生成图像与真实图像经过判别器隐含层的输出的均方误差。
  • 判别器通过真实图像与生成图像的交叉熵进行优化（经典的GAN的优化方法）

实验结果

  • 数据集：MvTec-grid；将训练数据缩小至128*128并进行随机分割，分割大小为64*64小图片；扩增后的训练数据一共有13200个
  • 参数设置：Adam；lr=0.002；opech=50，batchSize=132；其他参数见代码
  • 结果
    左（原始图像）；中（重构图像）；右（残差）
    在这里插入图片描述
    残差真值
    在这里插入图片描述
    残差热力图
    在这里插入图片描述
    左（原始图像）；中（重构图像）；右（残差）
    在这里插入图片描述
    残差真值
    在这里插入图片描述
    残差热力图
    在这里插入图片描述

在这里插入图片描述

  • ac: 0.9423558897243107
  • best_accuracy: 0.9358974358974359
  • best_thre: 0.18796310469498784
  • best_F1_score: 0.9661016949152543
  • 从测试结果来看，对于铁丝网扭曲的这种类型的缺陷，检测效果不是很好；但是对于有异物出现在网格上的这种缺陷，检测效果还是比较好的。

总结

谈谈我对于skip-GANomaly的看法

  • 优点：
  1. 加入了skip-connections确实提高了重构效果。
  2. skip-GANomaly的生成器是image-to-image的，生成器中全部使用的是卷积层或者反卷积层，没有用到全连接层。这样带来一点好处就是生成器的输入不受图像大小的约束。
  • 缺点：
  1. 我在仿真的时候按照论文中的设置，给自编码器的每一层都加上了skip-connection，结果导致在测试样本上的重构效果太好，以至于连缺陷都重构出来。skip-connection太多会导致模型过拟合，输入和输出直接划等号。经过调参，最终保留最下边一层的skip-connection。即使是这样，仍然会把缺陷部分轻微地重构出来。
  2. 我一直觉得skip-GANomaly和GANomaly都已经不能再称之为GAN。因为模型中作出主要贡献的实际上是自编码器。自编码器使用精确的一对一的均方误差来衡量生成图像与原始图像的差距；而GAN使用我们神经网络以一种我们也不清楚的方式来衡量生成图像与原始图像的差距。skip-GANomaly和GANomaly将两种衡量方式以很直观的方式结合到一起，这就会导致说不清楚这两种方式究竟谁在起主导作用。不过论文中的实验参数以及我自己的调参结果说明：是自编码器在起主导作用

最后的感想

数据集很理想，尽管有旋转，有位移，有光照变换，但是想要真正实际情况中让模型起到作用还有很长一段路要走。

代码

https://github.com/qqsuhao/skip-GANomaly-MvTec-grid

Keras深度学习实战（25）——使用skip-gram和CBOW模型构建单词向量
盼小辉丶的博客
09-14 4927
在学习了如何从零开始构建了一个用于计算单词向量的模型之后，我们在本节介绍了如何使用 gensim 库构建 skip-gram 和 CBOW 模型获取单词向量，从而得到了更加准确的单词向量。最后，为了克服数据集中句子数量太少而导致的模型鲁棒性较差的问题，我们介绍了如何使用预训练的单词向量执行向量算术。
一文弄懂Word2Vec之skip-gram（含详细代码）
Python，数据分析，机器学习，深度学习
12-06 1万+
目录 前言 一、什么是Skip-gram算法 二、目标是什么 三、定义表示法 3.1 one-hot向量 3.2 词向量（word vector） 3.3 单词矩阵 3.4 单词相似度 3.5 softmax函数 3.6算法过程 3.7 求softmax 四、skipgram代码实现 4.1 如何把词转换为向量 4.2 CBOW和Skip-gram的算法实现 Skip-gram的理想实现 Skip-gram的实际实现 4.3 使用Pytorch实现Skip-gram .
skip-ganomaly:Skip-GANomaly纸的源代码
05-02
跳过ganomaly 该存储库包含以下论文的PyTorch实现：跳过GANomaly：跳过已连接并经过对抗训练的编码器-解码器异常检测 1.目录 2.安装 首先克隆存储库git clone https://github.com/samet-akcay/skip-ganomaly.git 通过conda创建虚拟环境conda create -n skipganomaly python=3.7 激活虚拟环境。 conda activate skipganomaly 安装依赖项。 pip install --user --requirement requirements.txt 3.实验 要在纸上复制CIFAR10数据集的结果，请运行以下命令： # CIFAR sh experiments/run_cifar.sh 4.培训 要列出参数，请运行以下命令： python train.py
Skip-GANomaly安装与使用指南
gitblog_00059的博客
03-27 427
Skip-GANomaly安装与使用指南 skip-ganomaly Source code for Skip-GANomaly paper 项目地址: https://gitcode.com/gh_mirrors/sk/skip-ganomaly ...
Skip-GANomaly 项目使用教程
最新发布
gitblog_00067的博客
09-02 346
Skip-GANomaly 项目使用教程 skip-ganomalySource code for Skip-GANomaly paper项目地址:https://gitcode.com/gh_mirrors/sk/skip-ganomaly 1. 项目的目录结构及介绍 skip-ganomaly/ ├── experiments/ ├── lib/ ├── gitignore ├── LICE...
ganomaly:甘诺马利
05-12
感性 该存储库包含以下论文的PyTorch实现：GANomaly：通过对抗训练进行半监督异常检测 1.目录 2.安装 首先克隆存储库 git clone https://github.com/samet-akcay/ganomaly.git 通过conda创建虚拟环境 conda create -n ganomaly python=3.7 激活虚拟环境。 conda activate ganomaly 安装依赖项。 conda install -c intel mkl_fft pip install --user --requirement requirements.txt 3.实验 要在纸上为MNIST和CIFAR10数据集复制结果，请运行以下命令： # MNIST sh experiments/run_mnist.sh # CIFAR sh experiments/run
【论文】Skip-GANomaly: Skip Connected and Adversarially Trained Encoder-Decoder Anomaly Detection
七把叉
04-01 5179
这篇是基于GANomaly的改进。文章的代码暂时没有公布。 Akçay S, Atapour-Abarghouei A, Breckon T P. Skip-GANomaly: Skip Connected and Adversarially Trained Encoder-Decoder Anomaly Detection[J]. arXiv preprint arXiv:1901.08954...
GANomaly复现总结
qq7835144的博客
12-11 8310
文章目录GANomaly复现总结GANomaly介绍实验结果代码 GANomaly复现总结 继上次复现了AnoGAN，接着复现GANomaly。 本文适合有一定GAN的相关基础的读者阅读。 GANomaly介绍 贴上原论文中的图： 生成器由编码器1–>解码器1–>编码器2这样的结构构成；判别器就是普通的判别器。 生成器的损失函数由三部分构成：编码器1得到的隐变量和编码器2得到的隐变量的均方误差；解码器1得到的生成图像与原图像的1范数误差；真实图像在判别器中的隐含层的输出与生成图像在判别器中的
复现std-ganomaly出现的问题及解决办法
qq_45726562的博客
02-07 158
复现std-ganomaly出现的问题及解决办法
skip-gram模型
weixin_37801695的博客
12-10 2071
Skip-gram模型原理参考链接：https://blog.csdn.net/rlnlo2pnefx9c/article/details/78747970 skip-gram模型原理 Skip-gram模型的输入为一个单词，输出为窗口大小h中各个单词的概率，如下图所示。 例如对于句子I always go to work by bus，对于单纯work，窗口大小2包括的单词为go，to，by，...
skip-gram 代码复现-简易数据集
12-15
标题 "skip-gram 代码复现-简易数据集" 指的是在自然语言处理领域中，使用skip-gram模型进行训练的一种实践项目。skip-gram是一种流行的语言模型，尤其在Word2Vec算法中被广泛使用，它通过预测一个词在上下文中的...
GANomaly-MvTec-grid:火炬
05-11
GANomaly-MvTec-网格 介绍 配套 [] 结果 auc：0.9039264828738514 best_accuracy：0.8717948717948718 best_thre：0.1464714​​982744258 best_F1_score：0.9256198347107438
远程连接mysql失败异常，未配置权限，skip-name-resolve以及防火墙
liu_shi_jun的专栏
10-29 2675
刚安装好 mysql之后，用 navicat 连接MySQL ,是连不上的。mysql 默认是只能本地连接，如果需要远程连接，需要配置连接权限。我的mysql 版本是 MySQL 5.6.40 查看权限 首先登录到mysql ，mysql -u root -p， 输入密码登录进去 mysql > show grants; 这是root 用户对localhost的权限，如果需要远程登录，查...
GANomaly阅读和源码总结
骊山道童的博客
11-02 1743
GANomaly 关于GANomaly Akcay S, Atapour-Abarghouei A, Breckon T P. GANomaly: Semi-Supervised Anomaly Detection via Adversarial Training[J]. 2018. paper：https://www.researchgate.net/publication/325215718_GANomaly_Semi-Supervised_Anomaly_Detection_via_Adversari
【文献阅读笔记】关于GANomaly的异常检测方法
pengmingjv的博客
11-27 563
关于GANomaly的异常检测方法
GANomaly: Semi-Supervised Anomaly Detection via Adversarial Training
Flare_J 的博客
03-17 1792
GANomaly: Semi-Supervised Anomaly Detection via Adversarial Training GANomaly:通过对抗性训练进行半监督异常检测 ​ — 2018 发表于发表于arXiv Abstract 异常检测是计算机视觉中的一个经典问题，即当数据集由于另一类（异常）的样本量不足而高度偏向于一类（正常）时，从异常中确定正常。虽然这可以作为一个有监督的学习问题来解决，但一个更具挑战性的问题是如何检测未知/看不见的异常情况，从而将我
GAN（Generative Adversarial Nets (生成对抗网络)）
qq_42728437的博客
05-15 3554
②部分，此时判别器D的输入为G(z)，为假图像，但是我们期望的是生成器的效果好，即尽可能的瞒过D，也就是期望D(G(z))尽可能大，越大表示D判定假图像为真实数据的概率越大，也就表明生成器G生成的图像效果好，可以成功的骗过D。在训练的时候，D(G(z))越大越接近于1，y越小，生成器生成的假图越被判别器误判为真图。但训练刚开始时，生成的图像太假，太容易被判别器识破，D(G(z))接近0，log(1-D(G(z)))饱和无梯度，所以将最小化log(1-D(G(z)))变为最大化log(D(G(z)))
模型大小 与参数量计算
热门推荐
jacke121的专栏
05-18 2万+
1.model size 就是模型的大小，我们一般使用参数量parameter来衡量，注意，它的单位是个。但是由于很多模型参数量太大，所以一般取一个更方便的单位：兆(M)来衡量。比如ResNet-152的参数量可以达到60 million = 0.0006M。有些时候，model size在实际计算时除了包含参数量以外，还包括网络架构信息和优化器信息等。比如存储一个一般的CNN模型(ImageNet训练)需要大于300MB。 M和MB的换算关系： 比如说我有一个模型参数量是1M，在一般的深度学...
评论 39
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值