2019年02月_gdtop818

原创 HRNet详解

HRNet：Deep High-Resolution Representation Learning for Human Pose Estimation[github]（CVPR2019）这是一篇state-of-the-art级别的论文19.9.8 update 本文老板的HRNet项目主页，以及已经应用并取得好成绩的应用方向Pose estimation Semantic seg...

2019-02-28 20:12:32 150485 33

原创 [cv231n] Lecture 5 | Convolutional Neural Networks

Lecture 5 | Convolutional Neural NetworksDiscussion:Backpropagation and GradientsAssignments:Assignment #1 due kNN, SVM, SoftMax, two-layer networkConvolutional Neural Networks (CNNs / ConvNe...

2019-02-28 14:10:51 947

原创 [cv231n] Lecture 4 | Introduction to Neural Networks

Lecture 4 | Introduction to Neural NetworksReference reading:Calculus on Computational Graphs: BackpropagationHow the backpropagation algorithm worksReviewWe want to find the gradient W of L....

2019-02-28 12:04:17 454 1

原创 [cv231n] Derivatives, Backpropagation, and Vectorization

Derivatives, Backpropagation, and Vectorization是李飞飞大牛学生Justin Johnson（注意断句），点击可以看他的个人主页发表的论文涉及了多个领域，博士期间在CVPR/ICCV/ECCV顶会上发表多达13篇论文。本文是他为cs231n课程撰写关于Derivatives, Backpropagation, and Vectorization的n...

2019-02-28 00:23:41 376

原创 [cv231n] Backpropagation for a Linear Layer

Backpropagation for a Linear Layer是李飞飞大牛学生Justin Johnson（注意断句），点击可以看他的个人主页发表的论文涉及了多个领域，博士期间在CVPR/ICCV/ECCV顶会上发表多达13篇论文。本文是他为cs231n课程撰写关于Backpropagation的notes，也是我迄今为止见过最简洁，数学推理比较完备的一篇notes。在本篇笔记中主要是...

2019-02-27 22:37:25 488

原创 AdaBound详解[首发]

AdaBound：ADAPTIVE GRADIENT METHODS WITH DYNAMIC BOUND OF LEARNING RATE[github][discussion] (ICLR2019)（消息来源量子位-中国学霸本科生提出AI新算法：速度比肩Adam，性能媲美SGD，ICLR领域主席赞不绝口）在本篇论文中，作者公布了一个名为AdaBound的神经网络优化算法，简单地说，这...

2019-02-27 17:06:12 5524

原创 1984生词

2019/2/26 Chapter ONEⅠ Winston‘s home Winston's diary Winston's coworker Two Minute Hate ONE Ⅰ 1~20 1 chin nuzzle 下巴蹭一蹭 a swirl of gritty dust 沙尘的漩涡 ...

2019-02-26 23:53:44 1327

原创 [cv231n] Lecture 3 | Loss Functions and Optimization

Lecture 3 | Loss Functions and Optimization关于优化方法补充一条2019/2/27新出的论文：AdaBound，论文中该方法被证明比SGD和ADAM有更好的优化速度，并且也更容易在训练中达到最优效果~~ 本篇文章如果有朋友看不懂的话可以留言给我，我会抽时间把cs231笔记再翻译成中文~Tools: Linear Classification Los...

2019-02-26 19:48:40 1013

原创 [cv231n] Lecture 2 | Image Classification(2)

Lecture 2 | Image ClassificationPrerequisitesPython Numpy Tutorial Google Cloud Tutorial Image Classification Linear ClassificationAssignment 1K-Nearest Neighbor Linear classifiers: SVM, So...

2019-02-26 14:53:50 832

原创 [cv231n] Lecture 2 | Image Classification(1)

Lecture 2 | Image ClassificationPrerequisitesPython Numpy Tutorial Google Cloud Tutorial Image Classification Linear ClassificationAssignment 1K-Nearest Neighbor Linear classifiers: SVM, So...

2019-02-26 13:28:56 869

原创 [cv231n] Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition

Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition Feifei-LiPrerequisitesProficiency in Python, high-level familiarity in C/C++ All class assignments will be in Pyth...

2019-02-26 13:10:44 300

原创深度学习论文

一、ImageNet Evolution以下五篇论文是深度学习的破冰著作，见证了卷积神经网络越来越深，效果越来越好，其中ResNet更是在原始网络结构上有了新的突破~~[Nature15] Deep Learning：摘自Yann LeCun和Youshua Bengio以及GeoffreyHinton三人合著发表在nature2015的论文[NeurIPS12] ImageNet ...

2019-02-24 19:13:52 11411 6

原创 (5) [CVPR15] Deep residual learning for image recognition

计划完成深度学习入门的126篇论文第五篇，来自MSRA的何凯明在ILSVRC15比赛上取得冠军后的论文，也是大名鼎鼎的RestNet，发表在CVPR15并当选Best paper。摘要Abstract 我们提出了一个residual learning framework来简化网络的训练，这些网络比以前使用的要深得多。我们显式地将层重新表示为根据层输入学习residual fun...

2019-02-24 18:10:00 6513

原创 (4) [CVPR15] Going deeper with convolutions

计划完成深度学习入门的126篇论文第四篇，来自Google的科研人员在ILSVRC14比赛上取得冠军后的论文，发表在CVPR15上。为致敬LeNet，网络取名为GoogLeNet。Tips：谷歌的中国学者贾扬清也是作者之一摘要Abstract 在2014年ImageNet大规模视觉识别挑战中，我们提出了一种代号为Inception的深度卷积神经网络架构，实现了分类和检测的新...

2019-02-24 14:35:23 851

原创 (3) [ICLR15] Very deep convolutional networks for large-scale image recognition

计划完成深度学习入门的126篇论文第三篇，来自Oxford的Karen Simonyan教授在ILSVRC比赛上取得冠军后的论文，同时也是2015年ICLR上发表的论文。同时作者本人也强调本篇是继12年Deep Convolutional Neural Networks的深入研究。摘要Abstract 在本文中，我们研究了卷积网络深度在大尺度图像识别设置中对其准确率的影响。...

2019-02-24 13:51:20 6065

原创 (2) [NeurIPS12] ImageNet Classification with Deep Convolutional Neural Networks

计划完成深度学习入门的126篇论文第二篇，摘自多伦多大学Alex Krizhevskyh和Geoffrey Hinton合著发表在NeurIPS2012的论文，同时也算是2012年ImageNet的冠军得主论文。摘要Abstract论文作者训练了一个大型深度卷积神经网络来对120万的高分别率图片做1000分类，并且优于之前的精度记录。使用了6000万个参数以及65万个神经单元。在前五层神经...

2019-02-24 12:27:42 1203

原创 (1) [Nature15] Deep Learning

计划完成深度学习入门的126篇论文第一篇，摘自Yann LeCun和Youshua Bengio以及Geoffrey Hinton三人合著发表在nature2015的论文，同时也算是DeepLearning这本书的序文。摘要Abstract深度学习是使用multiple processing layers即多层网络来学习数据的内涵表示。这些方法极大程度上提高了state-of-art在语音...

2019-02-23 23:18:56 3260

原创 GRE同义词

动词贬性放纵abandon, indulge, 形容词：indulgent, lenient, sybaritic, 放弃；废除；撤回abandon, abdicate, abjure, abrogateabort, cease, cede, drop, disannul, forgo, recant, repeal, rescind, revoke, relinquish...

2019-02-22 10:10:21 4118

原创 [机器学习入门课程]机器学习与深度学习相关课程资源及介绍

关联博客：机器学习与深度学习相关纸质资源及介绍入门机器学习一、必学篇1. Coursera-Stanford：Machine Learning_NG这一部分早期我写过几周的博客，大家可以参考~一共11周课程，每一周视频时长大约1-3小时，每周作业平均需要花费3小时左右。建议课本：统计学习方法+西瓜书+机器学习实战 2. Specialization-Stanford...

2019-02-21 16:31:49 1032

原创 [机器学习入门书籍]机器学习与深度学习相关纸质资源及介绍

关联博客：机器学习与深度学习相关课程资源及介绍机器学习入门学习摘要：主要的机器学习的纸质资源如下，建议入门学习的12和实战的4作为强化的入门学习，入门学习的3和实战的56作为强化训练（若时间不充足也可以直接按照我给的顺序学习），论文篇和专题篇作为想深入研究的同学学习一、入门机器学习1. 《统计学习方法》李航 2. 《机器学习》周志华 3. 深度学习（deep learning...

2019-02-21 14:51:17 1055

原创 [生成对抗网络GAN入门指南]（11）StackGAN: Text to photo-realistic image synthesis with stacked generative advers

本篇blog的内容基于原始论文StackGAN: Text to photo-realistic image synthesis with stacked generative adversarial networks（ICCV2017）和《生成对抗网络入门指南》第七章。一、为什么要研究StackGAN目前大部分文本生成图像的技术都存在一个问题，就是生成图像模糊不清，主要是因为文本的多义性...

2019-02-18 14:10:41 1586

原创 GAWWN：Learning What and Where to Draw

本篇blog的内容基于原始论文Learning What and Where to Draw(NIPs2016)和《生成对抗网络入门指南》第七章。通过上一章根据风格的文本生成图像效果，我们想更好的控制生成图像。比如对于鸟类数据集，通过文字控制不同姿态的鸟，出现在图像中的位置等等。本篇论文提出一种能解决画什么和画在哪里（What and Where）的生成对抗网络GAWWN——一种同时基于文本条...

2019-02-18 14:00:37 1585

原创 GRE常见的熟词生义

本篇是基于托福词汇的基础上整理出GRE3K的难点单词和熟词生义，后续计划继续出形近词。List 1 meaning advert 引起注意，提到：refer aggravate 加重，恶化：worse, serious, severe; 使恼火：disturb airtight 无瑕疵的：no, flaw; 密封的，不透气的：impermeable to a...

2019-02-17 19:14:03 9949 1

原创 SRGAN: Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network

本篇blog的内容基于原始论文SRAGN-Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network（CVPR2017）和《生成对抗网络入门指南》第六章。完整代码及简析见文章末尾一、摘要：为什么要使用SRGAN使用更深和更快的CNN已经对超分辨率（super-resolution...

2019-02-15 12:42:16 2930 1

原创 [生成对抗网络GAN入门指南]（10）InfoGAN: Interpretable Representation Learning by Information Maximizing GAN

本篇blog的内容基于原始论文InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets（NPIs2016）和《生成对抗网络入门指南》第六章。完整代码及简析见文章末尾一、为什么要使用InfoGANInfoGAN采用无监督的方式学习，并尝试实现可解释特...

2019-02-14 17:56:17 1147 6

原创 [生成对抗网络GAN入门指南]（9）ACGAN: Conditional Image Synthesis with Auxiliary Classifier GANs

本篇blog的内容基于原始论文ACGAN：Conditional Image Synthesis with Auxiliary Classifier GANs和《生成对抗网络入门指南》第六章。完整代码见文章末尾一、为什么要研究ACGAN？使用标签的数据集应用于生成对抗网络可以增强现有的生成模型，并形成两种优化思路。1. cGAN使...

2019-02-14 16:55:04 9944 6

原创 [生成对抗网络GAN入门指南]（8）SGAN：Semi-Supervised Learning with Generative Adversarial Networks

本篇blog的内容基于原始论文SGAN：Semi-Supervised Learning with Generative Adversarial Networks和《生成对抗网络入门指南》第六章。（论文比较短只有3页，其中还包含一页citation）为什么研究SGAN？有大量的数据是不带标签的，带标签的数据只占一小部分；在DCGAN的研究中我们看到使用生成模型特征抽取后形成...

2019-02-13 17:29:15 6526 1

原创 LAPGAN应用：Deep Generative Image Models using a Laplacian Pyramid of Adversarial Networks

本篇blog的内容基于原始论文Deep Generative Image Models using a Laplacian Pyramid of Adversarial Networks(NIPs2015)和《生成对抗网络入门指南》第六章。基于cGAN的思想，这里的拉普拉斯对抗网络（LAPGAN）是在GAN基础上生成高质量图片，解决目前GAN生成数据质量差的问题。一、拉普拉斯金字塔1....

2019-02-13 17:00:18 1595 1

转载 Maxout Networks原理及源码

本篇blog内容基于Maxout Networks(Goodfellow, Yoshua Bengio, 2013)。在GAN很多应用中都用到了这个技巧。全篇大部分转载自：Maxout Networks，深度学习（二十三）Maxout网络学习作者：hjimce 一、DropoutGooddfellow在GAN本作中提到过一句话，自深度学习复苏以来，我们享受着计算资源的大幅度提升...

2019-02-13 12:49:34 456

原创 [生成对抗网络GAN入门指南]（6）WassersteinGAN-GP

本篇blog的内容基于原始论文WassersteinGAN-GP(NIPs2017)和《生成对抗网络入门指南》第五章。一、权重裁剪的问题（为什么要改进GP） WGAN理论中前提条件是1-Liposchitz条件，而对应使用的方法是权重剪裁，希望把网络固定在一个大小范围内。但是后来发现权重剪裁有许多问题，所以改进WGAN-GP，使用一种叫做梯度惩罚（gradie...

2019-02-12 23:07:35 5465 11

原创 [生成对抗网络GAN入门指南]（5）WassersteinGAN

本篇blog的内容基于原始论文WassersteinGAN和《生成对抗网络入门指南》第五章。一、GAN的优化问题WGAN前作：TOWARDS PRINCIPLED METHODS FOR TRAINING GENERATIVE ADVERSARIAL NETWORKS关于GAN的一些问题：训练的不稳定性；理论上，应该先把判别器训练到足够好，但是实际操作发现反而更难去优化生成器。上述...

2019-02-12 21:57:39 4639 3

原创 DCGAN应用: Semantic Image Inpainting with Deep Generative Models

本篇blog内容基于残缺图像补全Semantic Image Inpainting with Deep Generative Models（CVPR2017），使用数据库celabA，包含了202599张头像图片。一、数据集每行包括5张图片：第一列是数据库原始图片；第二列是随机取出80%的像素点图片；第三列是使用补全方法对第二列的修复结果；第四列是原始数据中间被扣掉一大块的图片；第五列是使...

2019-02-12 20:12:01 4622 13

原创 [生成对抗网络GAN入门指南]（4）DCGAN 深度卷积生成对抗网络

一、DCGAN介绍1. DCGAN的设计规则 2. DCGAN的框架结构二、DCGAN的工程实践及代码1、导入keras及可视化相关包 2、设计DCGAN主函数 3、运行三、实验室应用1、三个数据集的实验结果： ①LSUN ②face ③Imagenet-1K2、隐含空间 3、学习到的特征 4、词嵌入（Future Work）完整代码（判别器结构，生成器结构）DCG...

2019-02-12 18:17:08 6081 3

原创 [生成对抗网络GAN入门指南]（3）GAN的工程实践及基础代码

1、导入相关包，设置随机参数2、设置真实数据的分布、生成器的初始化分布3、设置线性运算：并用于生成器和判别器4、设置优化器，使用学习率衰减的梯度下降方法5、搭建GAN模型6、运行主程序完整代码请直接链接到最后面从上一章[生成对抗网络GAN入门指南]（2）理解生成对抗网络最后，我们需要做的优化是以下这个式子： ...

2019-02-12 14:35:10 1513 1

原创如何优雅地使用 Jupyter？

一、给Jupyter换主题1. 更新jupyter-core这里首先要更新jupyter-core到最新的4.4.0版本，同时要注意直接用pip更新会报错Cannot uninstall 'jupyter-core'. It is a distutils installed project and thus we cannot accurately determine whic...

2019-02-06 14:59:35 1419

原创 [cv231n] Lecture 4 | Introduction to Neural Networks

Lecture 4 | Introduction to Neural Networks

2019-02-26 21:50:45 234

原创 (6) [IEEESignal12] Deep neural networks for acoustic modeling in speech recognition

计划完成深度学习入门的126篇论文第六篇，多伦多大学的Geoffrey在Signal方向发表的论文，引用量超过6000+，是深度学习在speech recognition的开山之作。

2019-02-25 13:56:00 1688 1

原创 [princeton/Algotithm I/week2]（2） Elementary Sorts

Suggested Readings. Section 1.3 and 2.1 in Algorithms, 4th edition.Lecture: Elementary Sorts. We introduce the sorting problem and Java's Comparable interface. We study two elementary sorting method...

2019-02-18 00:33:40 130

原创 [princeton/Algotithm I/week2]（1） Stacks and Queues

Suggested Readings. Section 1.3 and 2.1 in Algorithms, 4th edition.Lecture: Stacks and Queues. We consider two fundamental data types for storing collections of objects: the stack and the queue. We ...

2019-02-18 00:33:38 209

翻译 [princeton/Algotithm I/week1]（5）Interview Questions: Analysis of Algorithms

Interview Questions: Analysis of Algorithms《算法4》这本书提供的TwoSumFast解法为NlogN，ThreeSumFast解法为N2logN，根据课后练习，要实现3Sum复杂度为N2，建议先把2Sum复杂度实现为N。同时教材提示用排好序的数组可以实现复杂度N。没有发现排好序的数组对复杂度降至N有太大帮助，于是在网上搜索了下大家的做法。网上的大...

2019-02-18 00:18:51 339

华为手机谷歌GMS终极工具（关联华为P系列Mate系列荣耀系列）.zip

setupCSR4.0.zip

HA-LLFTOOL.zip

空空如也