![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
论文阅读
文章平均质量分 91
huitailangyz
这个作者很懒,什么都没留下…
展开
-
【论文阅读】Attention Is All You Need
【2017NIPS】论文:https://arxiv.org/pdf/1706.03762v5.pdf代码:https://github.com/tensorflow/tensor2tensor本文提出了新的网络结构Transformer,仅仅依靠注意力机制而不再使用循环和卷积结构训练可以采用并行化,从而大大缩短训练时间介绍现有的循环模型每个时间步依次计算,这种序列化的方法大大阻碍了训练的并行尽管有工作采用一些技巧提高了计算效率,但是这种序列化的本质问题仍然存在...原创 2021-02-06 22:26:59 · 535 阅读 · 0 评论 -
【论文阅读】A Survey on Contrastive Self-supervised Learning
论文地址:https://arxiv.org/abs/2011.00362介绍有监督的方法的问题:1、需要昂贵的标记数据2、泛化性能差3、遭受对抗攻击大量的方法开始寻找不需要大量昂贵的标记的方法,通过自监督来学习特征表示随着2014年GAN被提出,有许多基于GAN的自监督的生成模型,但是GAN也存在问题:1、模型参数比较振荡,很难收敛2、判别器通常比生成器训练得更好,使得生成器很难生成逼真的样本对比学习是一种判别方法,旨在将相似样本靠近,将不同的样本之间距..原创 2021-01-31 22:12:21 · 2259 阅读 · 0 评论 -
对比学习&Transformer论文清单
终终终终于放假了= =寒假可以看点自己感兴趣的论文了,今年大火的对比学习和一些Transformer相关的论文一直存着没看列个论文清单,有空的话慢慢看过去Contrastive Learning综述 A Survey on Contrastive Self-supervised Learning【20.11】具体方法 A Simple Framework for Contrastive Learning of Visual Representations(SimCLR)【ICML2020原创 2021-01-30 23:18:27 · 1589 阅读 · 0 评论 -
【论文阅读】Hierarchical Deep Reinforcement Learning: Integrating Temporal Abstraction and Intrinsic Motiv
【2016NIPS】任务:层次强化学习本文提出了层次强化学习,顶层使用价值函数让策略模型学习到内在目标,底层则决定具体的动作,从而来满足顶层提出的给定目标内在目标可以提供更多的探索,从而缓解稀疏反馈的问题,目标定义在entity和相互之间关系的空间中,可以限制探索空间,提高学习效率模型整体结构由两阶段的层次化结构组成顶层meta-controller输入为状态sts_tst,输出为目标gtg_tgt下层controller的输入为gtg_tgt和sts_tst,输出为动作ata_t原创 2020-08-15 19:42:26 · 928 阅读 · 3 评论 -
【论文阅读】Interpreting the Latent Space of GANs for Semantic Face Editing
【2020CVPR】Shen, Yujun, Jinjin Gu, Xiaoou Tang, and Bolei Zhou. “Interpreting the latent space of gans for semantic face editing.” In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, pp. 9243-9252. 2020.https://github.com原创 2020-08-13 00:08:10 · 2639 阅读 · 3 评论 -
【论文阅读】Unsupervised Learning of Probably Symmetric Deformable 3D Objects from Images in the Wild
【2020CVPR】best papar awardWu, Shangzhe, Christian Rupprecht, and Andrea Vedaldi. “Unsupervised Learning of Probably Symmetric Deformable 3D Objects from Images in the Wild.” In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognit原创 2020-08-05 23:04:06 · 2063 阅读 · 0 评论 -
【论文阅读】Reinforcement Learning with Competitive Ensembles of Information-Constrained Primitives
【2020ICLR】Goyal, Anirudh, Shagun Sodhani, Jonathan Binas, Xue Bin Peng, Sergey Levine, and Yoshua Bengio. “Reinforcement learning with competitive ensembles of information-constrained primitives.” arXiv preprint arXiv:1906.10667 (2019).任务:强化学习的迁移学习本文提出的原创 2020-07-31 20:54:47 · 392 阅读 · 0 评论 -
【论文阅读】Discovering Reinforcement Learning Algorithms
【2020.7 arxiv】Oh, Junhyuk, Matteo Hessel, Wojciech M. Czarnecki, Zhongwen Xu, Hado van Hasselt, Satinder Singh, and David Silver. “Discovering Reinforcement Learning Algorithms.” arXiv preprint arXiv:2007.08794 (2020).任务:使用meta-learning方法学习通用的强化学习算法解决自动原创 2020-07-31 20:47:12 · 418 阅读 · 0 评论 -
【论文阅读】Query-efficient Meta Attack to Deep Neural Networks
【2020ICLR】Du, Jiawei, Hu Zhang, Joey Tianyi Zhou, Yi Yang, and Jiashi Feng. "Query-efficient Meta Attack to Deep Neural Networks."arXiv preprint arXiv:1906.02398(2019).任务:基于meta-learning的灰盒攻击本文研究的内容是基于meta-learning的灰盒攻击,使用一个autoencoder网络结构来估计...原创 2020-06-16 21:28:51 · 1106 阅读 · 2 评论 -
对抗样本方向(Adversarial Examples)2018-2020年最新论文调研
调研范围2018NIPS、2019NIPS、2018ECCV、2019ICCV、2019CVPR、2020CVPR、2019ICML、2019ICLR、2020ICLR2018NIPSContamination Attacks and Mitigation in Multi-Party Machine Learning(防御)作者:Jamie Hayes(Univeristy College London) Olga Ohrimenko(Microsoft Research)摘要:Machine原创 2020-06-15 15:33:37 · 18135 阅读 · 1 评论 -
【论文阅读】Hierarchical Attention for Part-Aware Face Detection
【2019IJCV】Wu, Shuzhe, Meina Kan, Shiguang Shan, and Xilin Chen. “Hierarchical Attention for Part-Aware Face Detection.” International Journal of Computer Vision 127, no. 6-7 (2019): 560-578.任务:人脸检测...原创 2020-05-06 21:47:45 · 605 阅读 · 0 评论 -
【论文阅读】Cross-domain Correspondence Learning for Exemplar-based Image Translation
【2020CVPR】代码地址:https://panzhang0212.github.io/CoCosNet/Zhang, Pan, Bo Zhang, Dong Chen, Lu Yuan, and Fang Wen. “Cross-domain Correspondence Learning for Exemplar-based Image Translation.” arXiv prep...原创 2020-05-01 23:16:06 · 2589 阅读 · 0 评论 -
【论文阅读】StarGAN v2:Diverse Image Synthesis for Multiple Domains
【2019.12 arxiv】代码地址:https://github.com/clovaai/stargan-v2Choi, Yunjey, Youngjung Uh, Jaejun Yoo, and Jung-Woo Ha. “StarGAN v2: Diverse Image Synthesis for Multiple Domains.” arXiv preprint arXiv:191...原创 2020-04-30 00:05:22 · 2859 阅读 · 1 评论 -
【论文阅读】Analyzing and Improving the Image Quality of StyleGAN
【2019 arxiv】Karras, Tero, Samuli Laine, Miika Aittala, Janne Hellsten, Jaakko Lehtinen, and Timo Aila. “Analyzing and improving the image quality of stylegan.” arXiv preprint arXiv:1912.04958 (2019)....原创 2020-04-19 14:55:21 · 1290 阅读 · 0 评论 -
【论文阅读】Show, Recall, and Tell: Image Captioning with Recall Mechanism
【2020AAAI】Wang, Li, Zechen Bai, Yonghua Zhang, and Hongtao Lu. “Show, Recall, and Tell: Image Captioning with Recall Mechanism.” arXiv preprint arXiv:2001.05876 (2020).任务:image caption问题:以前的方法在生成ca...原创 2020-04-17 19:39:53 · 851 阅读 · 0 评论 -
【论文阅读】Learning Deconvolution Network for Semantic Segmentation
论文地址:https://arxiv.org/abs/1505.04366v1 目录【概要】一、介绍二、相关工作三、系统结构3.1 结构3.2 用于分割的反卷积网络3.3 系统概述四、训练4.1 批标准化(Batch Normalization)4.2 两步训练五、推断5.1 汇总实例级别的分割映射5.2 与FCN进行集成六、实验...翻译 2018-08-20 16:02:54 · 1899 阅读 · 0 评论 -
【论文阅读】Learning to Extract Semantic Structure from Documents Using Multimodal Fully Convolutional Ne
【概要】 我们展示了一种端到端的、多模式的FCN网络来从文档图像中抽取语义结构。我们把文档语义结构抽取看做是一个像素级别的分割任务,并且提出了一种不仅仅像传统的页面分割任务那样基于他们的视觉外观,而且基于潜在的文本内容的统一模型。进一步的,我们提出了一个有效合成文档生成过程,用来为我们的网络生成预训练数据。一旦网络在大量合成文档上训练过以后,我们在未标注的真实文档上用半监督的方法精确调整...翻译 2018-08-13 10:21:29 · 3344 阅读 · 6 评论 -
【论文阅读】PageNet:Page Boundary Extraction in Historical Handwritten Documents
论文地址:https://arxiv.org/abs/1709.01618 【概要】当将一个文档电子化成一张图像,常见的方法是包括一个周围的边界区域来视觉上显示整个文档在图像中的位置。但是,在自动化处理前,这个边界需要被移除。在我们的工作中,我们展示一个基于深度学习的系统PageNet,它可以确定在图像中的主要页面区域,以便从文本和非文本边界噪声中分割出内容。在 PageNet中,一个...翻译 2018-07-27 21:52:20 · 860 阅读 · 0 评论