深度学习论文阅读
文章平均质量分 92
记录个人认为挺有意思的论文,领域比较杂,由于本人水平有限,如有理解不到位的地方,请指出。
Hungryof
不回答任何问题!
展开
-
transformer的一种加速方法Informer---- 稀疏化quary Q的方法
论文:Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecastingtransformer主要是增强网络的全局信息利用能力。因为普通的卷积网络都是local信息利用,其在全局信息利用上存在不可避免的短板。所以才会有类似non-local attn的存在。 transformer里面的核心就是attn,一般来说,A(qi,K,V)=Softmax(QKTd)V\mathcal{A}(\mathbf{q}_i,原创 2020-12-30 17:38:26 · 1169 阅读 · 0 评论 -
神经关系推断 NRI: Neural Relational Inference for Interacting Systems初探(附加了一小部分VAE)
总说作为从来没有接触过序列预测的我来说,看到这个是有点难度哈。然而经过我钻研了几天,终于基本看明白。太有意思了!!!!!!!!!!!!!论文主要是,根据已有的数据,显示地估计出内在的离散的graph结构,用graph结构作为引导,更好的进行序列预测,而且全程是无监督的方式,来获得graph。其实普通的预测序列的模型,比如LSTM之类的也可以预测,这种方法是隐式学习graph的方法。另外,稍微说一句:由于encoder要预测的graph是一个概率分布(就是每个节点右边的概率),但是预测出来的就只能是离原创 2020-07-23 18:01:38 · 2234 阅读 · 0 评论 -
ICCV 2019几篇自己感兴趣的论文阅读
总说只是随意看了看名字,下载了几篇论文读读,方向很局限。(待更新,最近更新 2019-11-21)Content and Style Disentanglement for Artistic Style Transfer原创 2019-11-21 11:41:27 · 1486 阅读 · 3 评论 -
Deformable Conv及其变体
文章列表:Active Convolution: Learning the Shape of Convolution for Image Classification这篇文章首先将卷积进行参数的拓展,之前都是直接学习权重就是了。之前的卷积都是fixed的采样。比如3*3,就是采样与window中心点相对位置一样的9个点。即:Y=W∗X+bY=W*X+bY=W∗X+bym,n=∑c∑i,j...原创 2018-12-27 20:33:38 · 8066 阅读 · 2 评论 -
图像填充方法概述
总说这里主要讲解Inpainting的主要发展历程。从2001年到2014年的图像填充方法概述。原创 2017-12-16 20:32:09 · 9547 阅读 · 0 评论 -
Unsupervised Image-to-Image Translation Networks---VAE+GAN+Cycle
总说这篇论文是基于CoGAN的,下面是总体结构图: 文章假设来自两个不同domain的同种语义的图片具有相同的latent vector。比如白天的上海滩与黑夜的上海滩,都是上海滩(高层语义一致,即latent vector一致),而这种语义特征再经过解码成具体的表现形式(底层网络用于语义的具体表现形式)。 因此网络设计如下: E1E_1和E2E_2的高层网络进行共享(具有相同的语义),得原创 2017-12-04 22:46:13 · 5331 阅读 · 0 评论 -
Contrast GAN--- 实现CycleGAN无法实现的“眼一瞎, 猫变狗”,“手一抖,单车变摩托”
猫变狗的语义GAN生成原创 2017-09-26 11:13:34 · 4636 阅读 · 3 评论 -
自动语义风格转换
总说简单来说,这个其实类似 Deep photo吧,都是加了分割mask的。和Deep Photo的区别就是,那么仍旧采用Gram-matrix-matching的方式进行style loss的计算。这个采用的是CNNMRF的style loss。 框架也是一样,采用一个能提取特征的model,一般就选VGG19了。然后在隐藏层上进行一些loss的计算。主要是content loss和styl原创 2017-09-16 18:49:00 · 1438 阅读 · 0 评论 -
Generative Adversarial Text to Image Synthesis --- 根据文字描述生成对应的图片
根据文字描述生成对应的图片原创 2017-07-26 22:23:27 · 9173 阅读 · 0 评论 -
精致的像素级别的风格转换 ----- Deep Image Analogy
像素级别的属性转换原创 2017-06-27 14:02:00 · 9859 阅读 · 11 评论 -
比CycleGAN更强的非监督GAN----DistanceGAN
DistanceGAN, 这篇论文related work写的不错。。。原创 2017-06-22 23:58:48 · 7275 阅读 · 0 评论 -
谈谈图像的style transfer(二)
总说主要从几个方面来进行说明吧 - 加快transfer的速度 - 让transfer的效果看起来更加visual-pleasing - 其他的一些方面 - 用GAN来做加快style stransfer 谈谈图像的Style Transfer(一) 这里写了 Neural style以及fast neural style。 在超越fast style transfer—-任意风格图和内原创 2017-05-10 10:22:32 · 20528 阅读 · 5 评论 -
超越fast style transfer----任意风格图和内容图0.1秒出结果
给定任意风格图与内容图,0.1秒实现风格转换。原创 2017-03-11 15:27:49 · 16952 阅读 · 16 评论 -
谈谈图像的Style Transfer(一)
总说最近更新:17-5-9 增加Neural style使用Gram矩阵的前提工作其实这个方向火起来是从2015年Gatys发表的一篇文章 A Neural Algorithm of Artistic Style, 当然了,当时新闻报道还是很标题党的,看的我热血沸腾。。言归正传,虽然只过了短短一年多,但是相关的论文已经有二三十篇了,这些论文在原有的基础上进行了极大的扩展。从最初的Neural原创 2017-01-02 21:22:00 · 25924 阅读 · 11 评论 -
Notes on Papers (I)
Going Deeper with ConvolutionsRethinking the Inception Architecture for Computer VisionDeep Residual Learning for Image RecognitionInception-v4,Inception-ResNet and the Impact of Residual原创 2016-11-05 18:51:21 · 1564 阅读 · 1 评论