Pytorch
MarDino
这个作者很懒,什么都没留下…
展开
-
Mogrifier LSTM论文浅析
前言LSTM模型是基于RNN循环网络提出的一种改进的门控网络通过各个门很好地控制了时间步前后的信息他一共有四个门,分别是遗忘门,输入门,候选记忆细胞,输出门他能较好地建模长语义,缓解梯度消失的问题问题提出可以看到我们的输入x和隐藏状态H是相互独立的,理论上来说,当前输入应该是和前一时间步的隐藏状态有关,但是LSTM中只是将这两个进行运算,获得各个门的输出。因此有研究者提出在进入各个...原创 2020-03-02 11:25:38 · 4538 阅读 · 8 评论 -
GhostNet论文笔记及代码分析
综述为了解决移动端CNN部署,我们开发出一种新型的网络结构GhostNet我们通过一系列简单的线性变换来生成所谓的Ghost 特征图这种ghost特征图能揭示隐藏的信息通过两种架构ghost module 和 ghost bottleneck可以构造出我们的轻量级网络,表现也超越了Mobilenet介绍近年来有许多减小模型大小方法提出,其中一系列方法是对丢弃不重要的参数丢弃,然而这种思...原创 2020-02-26 15:15:27 · 2859 阅读 · 0 评论 -
HRNet解析
前 言大多数网络都是由较高的分辨率特征图开始,通过步长为2的卷积块,甚至是池化操作,来逐渐缩小特征图大小,丰富各个通道的信息,最后再通过一个全局池化,输出通道信息。于是HRNet的作者就在思考能否通过并行,来融合多个尺度特征图信息来提高网络的性能,事实上也证明了这种方法的有效。这篇SOTA的模型也常用于目标检测,姿势估计等复杂任务,且表现都十分不错网络结构这是论文里面的一幅图片,看上去十分...原创 2020-02-25 18:17:08 · 2788 阅读 · 2 评论 -
解析PEN_NET(基于金字塔式图像修复)——损失函数(感知损失,风格损失,
上一篇博客我简单介绍了下基于金字塔式的图像修复我clone了该项目,并逐步分析,本篇文章主要讲解一下这个项目的损失函数的定义传统基于均方误差损失从一幅缺失的图像转换到一幅修复的图像我们最常想到的就是MSE均方误差损失通过比较每个像素的误差,最后取平方再平均,得到一个loss损失值,并反向传播,对各个层进行梯度下降事实上,均方误差表现的也不错,但是在一些细节,特征上缺失,造成局部的模糊...原创 2020-01-15 11:40:02 · 3282 阅读 · 0 评论