粗读Online Multi-Granularity Distillation for GAN Compression

最新推荐文章于 2023-04-21 19:51:48 发布
最新推荐文章于 2023-04-21 19:51:48 发布
阅读量469 收藏 1
点赞数
文章标签： python 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42578970/article/details/120703533
版权

传统的GAN网络虽然效果不错，但运算量大得难以忍受。本文提出了一种在线多粒度蒸馏方法（online multi-granularity distillation），能够相较于pix2pix和styleGAN能够大幅减少参数量和运算量。

 学生模型学习两个教师模型传递而来的知识，一个更宽，即通道数更多，另一个根深，通过添加残差块实现。学生模型不仅通过KD Loss学习两个教师模型最后的输出，还学习了更宽的教师网络的每一层的知识。

因为学生的输出损失是根据自身和教师的输出决定的，因此这一切可以在没有GT个判别器的情况下进行。

方法中的“在线”，指的是网络不是预训练后固定的网络，而是要在指导学生的同时，也要根据与GT的差异更新自身参数。

这种方法有三种好处：

  1. 隔绝了学生与GT和判别器的联系，让训练更加灵活且可以进一步压缩；
  2. 预训练好的网络无法指导学生网络每一步的学习，只能传递最后一层的知识
  3. 在传统的离线蒸馏方法中，因为评价指标的主观性，难以选择一个合适的预训练网络

格里芬阀门工
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
gan-compression:[CVPR 2020] GAN压缩
03-20
GAN压缩 | | [NEW！]增加对支持， 是一种多模式无监督的图像到图像翻译方法！请遵循来测试预训练的模型，并按照来训练自己的模型！ [NEW！] 发布了！我们引入了一种改进的管道，即，它可以通过更简单的过程产生与GAN压缩相当的结果！ 我们介绍GAN压缩，这是一种用于压缩条件GAN的通用方法。我们的方法在保持视觉保真度的同时，将pix2pix，CycleGAN和GauGAN等广泛使用的条件GAN模型的计算量减少了9-21倍。我们的方法适用于多种发电机架构，学习目标以及成对和不成对设置。 GAN压缩：用于交互式条件GAN的高效架构，，，，和麻省理工学院，Adobe Research，上海交通大学在CVPR 2020中。 演示版 概述 GAN压缩框架：①给定一个受过预训练的教师生成器G'，我们提取了一个较小的“全民所有”学生生成器G，其中包含通过权重分配的所有可能的频道号。在每个
【论文笔记_在线蒸馏、GAN】Online Multi-Granularity Distillation for GAN Compression
qq_45128278的博客
03-11 4554
2021年。 摘要 生成性对抗网络（GAN）在生成优秀图像方面取得了巨大的成功，但是，由于计算成本高，内存使用量大，在资源有限的设备上部署GAN非常困难。尽管最近压缩GAN的努力取得了显著的成果，但它们仍然存在潜在的模型冗余，可以进一步压缩。为了解决这个问题，我们提出了一种新的在线多粒度蒸馏（OMGD）方案来获得轻量级的GAN，这有助于以较低的计算需求生成高保真图像。我们首次尝试将单级在线蒸馏推广到面向GAN的压缩，逐步升级的教师生成器有助于改进基于无鉴别器的学生生成器。互补的教师生成器和网络层提供了全面.
OMGD:用于GAN压缩的在线多粒度蒸馏
syf的博客
09-13 772
提出了一种在线多粒度蒸馏（OMGD）技术来学习轻量级GAN。引入面向GAN的在线方案，交替促进教师和学生生成器，教师帮助学生热身，逐步引导优化方向。OMGD还充分利用了来自互补教师生成器和来自不同层的辅助监督信号的多粒度概念。
论文笔记：GAN Compression：Efficient Architectures for Interactive Conditional GANs
起风了丿的博客
12-08 1748
摘要
【GAN】GAN 也可以大幅压缩，来自MIT 韩松团队的最新研究！算力消耗不到1/9，现已开源！...
深度学习技术前沿
04-21 705
关注上方“深度学习技术前沿”，选择“星标公众号”，资源干货，第一时间送达！GAN 也可以大幅压缩，MIT 韩松团队的最新研究让众多研究者们为之一振。生成模型 GAN 是机器学习领域里最为...
Online Multi-Granularity Distillation for GAN Compression.pdf
11-21
为解决这一问题，本文提出了一个新颖的在线多粒度蒸馏（Online Multi-Granularity Distillation，简称OMGD）方案，旨在获得轻量级的GANs，以低计算需求生成高保真图像。 OMGD首次尝试将单阶段在线蒸馏方法应用于GAN...
Energy saving and cost reduction in multi-granularity green optical networks
02-21
With the energy consumption increase and the greenhouse effect becomes more and more serious, the energy saving has become the focus in the whole world. At the same time, as the network traffic ...
PMG-Progressive-Multi-Granularity-Training:通过渐进式拼图补丁的多粒度训练对精细分类的视觉进行分类的代码发布（ECCV2020）
04-24
渐进式多粒度训练 通过渐进式拼图补丁的多粒度训练对精细分类的视觉进行分类的代码发布（ECCV2020） 要求 python 3.6 PyTorch> = 1.3.1 火炬视觉> = 0.4.2 训练 下载FGVC的数据集（例如CUB-200-2011，Standford ...
A multi-granularity fuzzy computing model for sentiment classification of Chinese reviews
02-22
A multi-granularity fuzzy computing model for sentiment classification of Chinese reviews
CompressionGAN:用于图像压缩的深度学习模型
05-09
使用生成对抗网络进行极端图像压缩 该存储库提供了针对人像的学习型压缩算法。 使用以下命令克隆此存储库： git clone git@github.com:mlomnitz/CompressionGAN.git 描述 该软件包提供了在对抗网络（GAN）设置中使用自动编码器的图像压缩算法。 首先描述，在此工作的实施侧重于人脸，更具体的资料照片。 使用从中精选的40K图像子集对网络进行了训练，以忠实地重建人脸，并压缩了20到30倍。 要求 可以使用以下方法通过pip安装此软件包和相关要求： pip install -r requirements.txt python setup.py install 可以通过以下 下载用于训练/验证/测试的数据集：以下列出了可用的训练模型和关联的配置文件： 训练了40个时期的模型，没有噪声采样： ， 随着将来的实验完成，将提供更多训练有素的模型。
朱俊彦团队提出GAN压缩算法：计算量减少20倍，生成效果不变，GPU、CPU统统能加速...
量子位
03-25 1270
边策 鱼羊 发自 凹非寺量子位 报道 | 公众号 QbitAI现如今，GAN的效果已经越来越出神入化。比如英伟达的GauGAN，就如神笔马良，能够凭空造...
MySQL组件和数据结构
鱼获飞的博客
12-11 261
连接器 由一个工作线程去从一个网络连接中读取SQL语句 IO模型：IO多路复用。扩展：五种网络IO模型 解析器 SQL接口(SQL Interface)：执行SQL语句 查询解析器(Parser)：对SQL语句进行拆分解析 查询优化器：生成执行计划，选择最优的查询路径 ps：常用定位sql explain sql information_schema.optimizer_trace 执行器: 执行器根据执行计划调用存储引擎的接口 innodb 索引：B+树 支持MVCC 有效地利用以及使
代码def append_GAN Compression 2：代码解读
weixin_32081079的博客
01-17 550
请务必先看原paper，可参考上篇解析：科技猛兽：GAN Compression原理分析​zhuanlan.zhihu.com原作者的github项目链接：https://github.com/mit-han-lab/gan-compression​github.com代码解读：简要画了一下代码的调用关系：观察目录应该和上篇分析的GauGAN结构相似，多出了NAS和蒸馏的部分。我们首先看代码结构：...
edges2shoes数据集下载_GAN Compression3：复现方法
weixin_31421625的博客
01-17 844
终于写到最后一部分了，前面读完了paper和代码，现在看下如何复现这个工作：想了解这个工作的可以看下前面的paper和介绍：原paper​arxiv.org科技猛兽：GAN Compression1：原理分析​zhuanlan.zhihu.com科技猛兽：GAN Compression 2：代码解读​zhuanlan.zhihu.com官方代码：https://github.com/mit-han...
多粒度结构知识蒸馏进行语言模型压缩
weixin_45752264的博客
04-21 525
近年来，将知识通过蒸馏的方式从大模型转移到小模型获得越来越多的关注。以前的方式主要从单粒度语言单元中获取知识并进行知识转移，这种方式不能很好的表示文本中丰富的语义信息，可能回丢失某些重要信息——忽视了模型中的结构信息。本论文提出了一个新的知识蒸馏框架从多粒度语义中提取中间表示（tokens、spans和samples）将知识形成为更复杂的结构关系，指定为基于多粒度表示的二元交互pair-wise interactions和三元几何角度triplet-wise geometric angles。
字节跳动开源最新GAN压缩算法
m0_59537084的博客
08-30 674
字节跳动近期开源了一项代号为OMGD（Online Multi-Granularity Distillation意为“在线多粒度蒸馏”）的压缩技术。这是字节自研的GAN（生成对抗网络）压缩算法，在保证生成效果不变的前提下，算力消耗最低可以减少到原来的1/46，相比之前业界的最佳压缩效果提升一倍多。 字节跳动技术团队发表的自研GAN压缩算法论文 GAN 是人工智能领域重要的深度学习模型，在图像生成、音乐生成和视频生成等方面应用广泛。2020 年，麻省理工学院 、Adobe 和上海交通大学的研究者们提出一种
epoch训练时间不同_GAN Compression 8.训练过程分析2
weixin_39601088的博客
11-25 468
科技猛兽：GAN Compression 7.训练过程分析​zhuanlan.zhihu.com上一篇讨论了GAN Compression的teacher Generator的训练过程，这一篇继续讨论蒸馏过程，supernet的训练过程和子模型的搜索过程。蒸馏过程：bash scripts/cycle_gan/horse2zebra/distill.shdistill.sh里执行distill.p...
图像转换 image translation系列（17）| 最新ICCV2021生成对抗GAN汇总梳理
idol24的博客
03-25 7110
（1）GAN改进系列 | 最新ICCV2021生成对抗网络GAN论文梳理汇总图像编辑系列之（2）基于StyleGAN（3）GAN逆映射（4）人脸 （5）语义生成 | ICCV2021生成对抗GAN梳理汇总图像恢复系列之（6）超分（7）反光去除（8）光斑去除 （9）阴影去除（10）水下图像失真去除 | ICCV2021生成对抗GAN图像恢复系列（11）之修复（inpaint...
设备树 reserved-memory
最新发布
09-22
### 回答1： 设备树 reserved-memory 是在设备树（Device Tree）中用于预留一段内存的一种方式。它用于指定操作系统或者驱动程序使用的内存区域，用来避免在运行时发生内存冲突或者其他问题。 设备树 reserved-memory 段通常用于预留用于 DMA（Direct Memory Access）或者其他硬件加速功能的内存区域，或者用于将某些内存段设置为不可用，以避免被操作系统或者驱动程序分配给普通的应用程序使用。 设备树 reserved-memory 段通常在设备树中以如下的方式定义： ``` reserved-memory { #address-cells = <2>; #size-cells = <2>; ranges; reserved_region_name: reserved-memory@start_address { reg = <start_address size>; }; }; ``` 其中，`start_address` 是内存段的起始地址，`size` 是内存段的大小。 ### 回答2： 设备树中的reserved-memory节点用于描述在系统启动时预留的内存区域。这些内存区域在启动过程中不会被使用，其目的是保留一些物理内存供系统其他部分使用，如设备驱动、显存、I/O缓冲区等。 reserved-memory节点通常用于描述系统中的硬件资源，例如显存、DMA内存、I/O缓冲区等。该节点包含了以下属性： - reg: 表示要预留的物理内存区域的地址和大小，通常由两个整数表示，第一个整数为起始物理地址，第二个整数为内存大小。 - no-map: 表示该内存区域不需要进行内存映射，即禁止内核将该区域映射到虚拟地址空间。 - granularity: 表示内存区域的最小可用单位，用于内存管理。 通过使用reserved-memory节点，系统可以在初始化过程中将一些物理内存保留下来，避免其被其他系统组件使用，从而确保这部分内存始终可供特定设备或驱动使用。 此外，设备树还允许为预留内存指定其他属性，如访问权限、内存类型等。这些属性能够确保保留内存的安全访问和正确使用。 总之，reserved-memory节点是设备树中用于描述预留内存区域的重要节点，其可以为特定设备或驱动保留一定的物理内存，从而满足系统对内存的特定需求。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值