深度学习框架
文章平均质量分 95
萧班
挥斥方遒,大展身手!
展开
-
Training Generative Adversarial Networks with Limited Data
Profile四大生成模型之一的 GAN 由一对生成器 G 和鉴别器 D 构成。以图像生成为 ????,GAN 的训练有两个特点:☝ 在缺乏其他限制下,生成的图像的分布严格近似于 D 看到的真实图像分布;✌ 对于生成模型,过拟合(over fitting 只能复现训练时见过的样本)优于欠拟合(under fitting,训练炸了,无法生成自然的图像)。G 过拟合的发生比较少;G 欠拟合是更常见的——其表现为:以 LSGAN 为 ????,鉴别器 D 对生成样本的评分很低,即 Dfake→0D_{原创 2021-02-07 15:47:45 · 3635 阅读 · 19 评论 -
关于深度网络自学习attention mask的随笔
Attention 的出发点是学习一个 scale ,对深度网络的中间特征做线性激活,即:对特征中有利于目标任务(如正确分类)的部分作增强(a>1a>1a>1),对特征中不利于或无关目标任务的部分做抑制(a<1a<1a<1)基于CAM(Class Activation Mapping)的注意力机制借助一个辅助分类器,在 [conv]* -> ...原创 2020-01-18 00:17:01 · 1565 阅读 · 0 评论 -
Pytorch——DataSet与DataLoader
在使用 pytorch 构建深度学习相关的项目时,通常需要经过【模型结构】-【损失函数定义】-【数据设置】-【训练代码】-【log、验证、可视化与 checkpoints】。其中,【数据设置】往往因为项目/任务的不同,需要自定义合适的DataLoader(数据加载器)。本文即将介绍 torch.utils.data 中的 Dataset 与 Dataloader 的基本用法,以 Unpaire...原创 2019-09-16 20:43:54 · 4625 阅读 · 4 评论