ICML 2018 深度学习论文及代码集锦(3)

最新推荐文章于 2020-12-29 18:35:09 发布

frank_hetest

最新推荐文章于 2020-12-29 18:35:09 发布

阅读量288

点赞数

本文链接：https://blog.csdn.net/hestendelin/article/details/101546459

版权

本文汇总了ICML 2018上关于深度学习的几篇重要论文，包括GAN的稳定性研究、正交循环神经网络、设备放置优化、卡方GAN、线性网络全局最优理论以及深度预测编码网络。每篇论文都提供了实验对比和部分代码实现链接，是理解这些最新研究成果的好资源。

摘要由CSDN通过智能技术生成

[1] Which Training Methods for GANs do actually Converge?

Lars Mescheder, Andreas Geiger, Sebastian Nowozin

MPI, ETH, Microsoft Research

http://proceedings.mlr.press/v80/mescheder18a/mescheder18a.pdf

不同方法的收敛特性对比如下

640?wx_fmt=png

基于梯度下降的GAN优化算法通常不收敛的示例如下

640?wx_fmt=png

Dirac-GAN定义如下

640?wx_fmt=png

不同方法对比如下

640?wx_fmt=png

几种方法的收敛特性对比如下

640?wx_fmt=png

代码地址

https://github.com/LMescheder/GAN_stability

我是分割线

[2] Orthogonal Recurrent Neural Networks with Scaled Cayley Transform

Kyle E. Helfrich, Devin Willmott, Qiang Ye

University of Kentucky

http://proceedings.mlr.press/v80/helfrich18a/helfrich18a.pdf

各方法对比如下

640?wx_fmt=png

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

frank_hetest

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

ICML 2018 深度学习论文及代码集锦(9)

hestendelin的专栏

12-24

373

[1]Fast and Scalable Bayesian Deep Learning by Weight-Perturbation in AdamMohammad E...

ICML 2018 深度学习论文及代码集锦(10) 完结篇

hestendelin的专栏

01-02

849

[1]DCFNet: Deep Neural Network with Decomposed Convolutional FiltersQiang Qiu, Xiuyu...

参与评论您还未登录，请先登录后发表或查看评论

读《Which Training Methods for GANs do actually Converge?》

w55100的博客

03-03

5652

前言我读完这篇论文，饱受震撼，深受启发。我认为的这是非常不错的启蒙读物，于是萌生出写一写的念头。大概19.2.25开始看，断断续续几天才有了个概念，后面学网课，做模型，刷OJ。今天从杭州回来，才有时间着手开始写这篇文章(19.3.3)。打算弄一些简单的翻译，然后写一些个人的注解，然后在实践层面理解这篇论文的引入的正则项。由于目前的水平能力有限，对原理只能用抽象和比喻的方法来...

生成式对抗网络（GAN）-（Generative Adversarial Networks）算法总结（从原始GAN到....目前）

weixin_44474718的博客

05-30

1万+

本文将按时间顺序总结gan的paper（非所有，会挑选个人认为比较重要的），并将参考其它博客（会给出链接），如有侵权，请私信删除。 ???? （2014.06-arXiv）GAN:Generative Adversarial Nets【论文原文】【参考文章】 ????contributions：开山之作；原理：生成网络和判别网络的互相对抗。生成网络尽可能生成逼真样本，判别网络则尽可能去判别该样本是真实样本，还是生成的假样本。采用JS散度作为评判依据。 loss函数（原始gan损失函数的详细解释）：

Paper之BigGAN：《Large Scale Gan Training For High Fidelity Natural Image Synthesis》翻译与解读

09-30

1万+

Paper之BigGAN：《Large Scale Gan Training For High Fidelity Natural Image Synthesis》翻译与解读目录效果 Paper：《Large Scale Gan Training For High Fidelity Natural Image Synthesis》翻译与解读 ABSTRACT 1、INTRODUCTION 2、BACKGROUND 3、SCALING UP GANS 4、ANALYSIS 5

有趣的外文机器学习资源

edward_zcl的博客

12-31

921

转发自 https://blog.csdn.net/sqc3375177/article/details/79641171，一个很有趣的外文机器学习资源。看了Siraj Raval的3个月学习机器学习计划的视频，感觉非常好，地址：https://www.youtube.com/watch?v=Cr6VqT...

如何从几何角度上理解方程组只有一个解_从动力学角度看优化算法：GAN的第三个阶段...

weixin_39600704的博客

11-22

216

作者丨苏剑林研究方向丨NLP，神经网络个人主页丨kexue.fm在对 GAN 的学习和思考过程中，我发现我不仅学习到了一种有效的生成模型，而且它全面地促进了我对各种模型各方面的理解，比如模型的优化和理解视角、正则项的意义、损失函数与概率分布的联系、概率推断等等。GAN不单单是一个“造假的玩具”，而是具有深刻意义的概率模型和推断方法。作为事后的总结，我觉得对 GAN 的理解可以粗糙地分为三个阶段：...

ICML 2018 深度学习论文及代码集锦(7)

hestendelin的专栏

12-17

311

[1]DICOD: Distributed Convolutional Coordinate Descent for Convolutional Sparse Codi...

ICML 2018 深度学习论文及代码集锦(1)

hestendelin的专栏

11-26

386

[1] Spline Filters For End-to-End Deep LearningRandall Balestriero et al.Rice Univers...

独家 | 精选近期机器学习GitHub项目及Reddit热门话题（附链接）

数据派THU

10-05

843

作者：PRANAV DAR翻译：蒋雨畅校对：丁楠雅本文约2400字，建议阅读10分钟。本文总结今年7月以来Github和Reddit上涉及AI、ML的重要内容。介绍你有没...

从动力学角度看优化算法：GAN的第三个阶段

Paper weekly

05-13

1581

作者丨苏剑林单位丨追一科技研究方向丨NLP，神经网络个人主页丨kexue.fm在对 GAN 的学习和思考过程中，我发现我不仅学习到了一种有效的生成模型，而且它全面地促进了...

GAN的三重理解境界

liangwqi的博客

12-06

622

在对GAN的学习和思考过程中，我发现我不仅学习到了一种有效的生成模型，而且它全面地促进了我对各种模型各方面的理解，比如模型的优化和理解视角、正则项的意义、损失函数与概率分布的联系、概率推断等等。GAN不单单是一个“造假的玩具”，而是具有深刻意义的概率模型和推断方法。作为事后的总结，我觉得对GAN的理解可以粗糙地分为三个阶段： 1、样本阶段：在这个阶段中，我们了解了GAN的“鉴别者-造假者”...

【GAN优化】如何选好正则项让你的GAN收敛

hacker_long的专栏

09-16

3401

今天讲述的内容还是GAN的训练，也是最后一期，做几个简单的小实验，告诉大家怎么给GAN加正则项，使得你的GAN尽可能收敛。其实今天的内容本来还是与动力学结合很紧密，但是考...

RealFormer：把残差转移到Attention矩阵上面去

Paper weekly

12-29

1809

DCFnet训练代码

Got_Flipped的博客

12-26

767

DCFnet - Discrimitive Correlation Filters Network for Visual Tracking 搞了一年的相关滤波跟踪，终于搞下，真正的深度学习。这篇文章思路还是很简单的，不过中间的很多细节可以去慢慢调试。首先自己的电脑配置 win10+gtx1050ti 训练的时候，作者说需要很大的内寸。所以使用虚拟内存，具体方法可以百度。 ...

NIPS 2017 深度学习论文集锦 (2)

hestendelin的专栏

08-20

555

本文是NIPS 2017深度学习论文集锦第二篇，第一篇是本文是对上文的续，因此论文编号也是基于上文的续[21] Multi-Modal Imitation Learni...

谷歌查看html地址_104篇CVPR 2019论文，追踪谷歌、Facebook、英伟达研究课题

weixin_39674190的博客

11-29

346

【新智元导读】人工智能顶级会议CVPR刚刚公布了最佳论文，谷歌、Facebook和英伟达也随后公布了自家发表的论文共计104篇，本文列出了三家大厂论文的完整列表。本周，在美国加利福尼亚州长滩举办了CVPR 2019(计算机视觉和模式识别会议)，这是一次重要的年度计算机视觉活动，包括主要会议和几个共同举办的研讨会和教程。本次CVPR参会人数超过6500，CVPR 2018超过6000人；CVPR 2...

每周论文分享-0723

lqfarmer的博客

08-11

1857

ICML 2018 paper(oral)

qq_34848537的博客

10-08

5260

参考链接 icml 2018 oral Paperlist Optimal Tuning for Divide-and-conquer Kernel Ridge Regression with Massive Data Predict and Constrain: Modeling Cardinality in Deep Structured Prediction Transfer Learn...

深度学习理论探索：Sanjeev Arora在ICML2018的演讲回顾

在2018年的国际机器学习会议（ICML）上，普林斯顿大学的Sanjeev Arora教授发表了一场关于...这场ICML2018的深度学习理论教程提供了一个宝贵的视角，帮助参与者理解深度学习是如何从理论角度实现复杂模式识别和学习的。