Dogged21-CSDN博客

原创【文献阅读】Asymmetric Non-local Neural Networks for Semantic Segmentation

原文链接：https://arxiv.org/abs/1908.07678代码：https://github.com/MendelXu/ANN.gitNon-local 是一种特别有用的语义分割技术，但也因其难以进行计算和占用GPU内存而受到批评。本文提出了Asymmetric Non-local Neural Network，其中有两个突出的组成部分：Asymmetric Pyramid...

2020-05-03 16:20:47 735

原创【文献阅读】Adaptive Pyramid Context Network for Semantic Segmentation

原文链接：http://openaccess.thecvf.com/content_CVPR_2019/papers/He_Adaptive_Pyramid_Context_Network_for_Semantic_Segmentation_CVPR_2019_paper.pdf近年来的研究表明，上下文特征可以显著地提高深层语义分割分网络的性能。当前基于语义的方法在如何构建语义结构存在着很大...

2020-05-02 20:51:59 454

原创【文献阅读】A2-Nets: Double Attention Networks

原文链接：https://arxiv.org/abs/1810.11579学习捕获长距离关系是图像/视频识别的基础。现有的CNN模型一般依赖于增加深度来对这种关系进行建模，效率非常低。作者提出了“双注意力块”，这是一种新的组件，它从输入图像/视频的整个时空空间中聚集和传播信息的全局特征，使后续的卷积层能够有效地从整个空间访问特征。该组件设计为两步双注意机制，第一步通过二级注意池将整个空间的特...

2020-04-26 17:00:44 4697

原创【文献阅读】Dynamic Graph Message Passing Networks

原文链接：https://arxiv.org/abs/1908.06955尽管cnn在许多计算机视觉任务中表现出色，但它们在捕获长期的结构化关系方面仍然受到限制，因为它们通常由局部kernel层组成。全连接图对这种建模是有益的，但是它的计算开销太大了。所以作者提出了一种基于消息传递神经网络框架的动态图消息传递网络，与建立全连通图的相关工作相比，大大降低了计算复杂度。根据输入条件对图中的节点进...

2020-04-25 12:07:50 2722 3

转载【算法学习】删除排序数组中的重复项 II

给定一个排序数组，你需要在原地删除重复出现的元素，使得每个元素最多出现两次，返回移除后数组的新长度。不要使用额外的数组空间，你必须在原地修改输入数组并在使用O(1) 额外空间的条件下完成。示例一给定 nums = [1,1,1,2,2,3],函数应返回新长度 length = 5, 并且原数组的前五个元素被修改为 1, 1, 2, 2, 3 。你不需要考虑数组中超出新长度后面的元素。...

2020-04-19 21:28:04 143

原创【算法学习】55. 跳跃游戏

给定一个非负整数数组，你最初位于数组的第一个位置。数组中的每个元素代表你在该位置可以跳跃的最大长度。判断你是否能够到达最后一个位置。示例一输入: [2,3,1,1,4]输出: true解释: 我们可以先跳 1 步，从位置 0 到达位置 1, 然后再从位置 1 跳 3 步到达最后一个位置。示例二输入: [3,2,1,0,4]输出: false解释: 无论怎样，你总会到达索引为...

2020-04-17 21:00:05 104

原创【算法学习】组合数

题目从n个人中选择k个人组成一个委员会的不同组合数。思路：递归解法：考虑当前人是否要进入委员会，有两种情况，若进入，则只需求Cn−1k−1C_{n-1}^{k-1}Cn−1k−1；若不进入，则需求Cn−1kC_{n-1}^{k}Cn−1k。判断结束的条件为：若n==k∣∣k==0n==k||k==0n==k∣∣k==0，return 1；若n<kn<kn<k，...

2020-04-17 11:07:08 116

原创【文献阅读】Interlaced Sparse Self-Attention for Semantic Segmentation

这篇文章的主要思想是将稠密的关联矩阵因式分解为两个稀疏的关联矩阵的乘积。使用两个连续的注意力模块，第一个注意力模块用于估计具有长空间间隔距离的位置子集内的相似度，第二个注意力模块用于估计具有短空间间隔距离的位置子集内的相似度。与原始的自注意力模块相比，大大降低了计算和内存复杂度，尤其是在处理高分辨率feature map时。

2020-04-16 14:46:39 2189 8

原创【算法学习】楼梯的走法

题目描述假设有n阶楼梯，小明一次可以选择走1阶，也可以选择走2阶，问多少种走法。比如有5阶台阶，共有8种走法。1 1 1 1 11 1 1 21 1 2 11 2 1 11 2 22 1 1 12 1 22 2 1要求使用递归解法。输入描述输入n，表示n阶楼梯，1<=n<=40输出描述输出楼梯的走法总数。样例输入5样例输出8思路分析：以样例...

2020-04-15 21:03:58 1895 1

原创【文献阅读】CCNet: Criss-Cross Attention for Semantic Segmentation

论文链接：https://arxiv.org/pdf/1811.11721.pdf国内镜像：https://xxx.itp.ac.cn/pdf/1811.11721.pdfFCN由于固定的几何结构，它们天生局限于局部的接受域和短距离的上下文信息。全图像依赖提供了有用的上下文信息，有利于视觉理解问题。基于空洞卷积的方法从周围的几个像素点收集信息，实际上并不能生成密集的上下文信息① Re...

2020-04-15 18:06:49 720

原创【算法学习】最大公约数（辗转相除法）

题目描述给定两个正整数，求他俩的最大公约数；要求使用递归，实现辗转相除法输入描述两个整数a，b；1<=a,b<=100000000输出描述最大公约数样例输入6 12样例输出6思路分析：难点在于辗转相除法，又称欧几里得算法。步骤：用较大数除以较小数，再用出现的余数（第一余数）去除除数，再用出现的余数（第二余数）去除第一余数，如此反复，直到最后余数是0为止...

2020-04-14 22:12:57 438

原创【文献阅读】An Empirical Study of Spatial Attention Mechanisms in Deep Networks

论文链接：https://arxiv.org/abs/1904.05873国内镜像：https://xxx.itp.ac.cn/abs/1904.05873注意力机制使神经网络能够更多地关注输入的相关元素，而不是不相关的部分。在计算给定query(例如，输出句子中的目标单词)的输出时，某些key(例如，输入句子中的源单词)将根据query按优先级排序。在确定分配给给定query的某个ke...

2020-04-14 18:24:33 2254 1

原创【算法学习】猴子吃桃

题目描述一只猴子在第一天获得了若干的桃子，他在第n天吃了第n-1天剩下的桃子数的一半加n个桃子；最后第n天吃之前，剩余了1个桃子。求第一天猴子获得的桃子数。输入描述输入一个整数n，1<=n<=20输出描述求第一天猴子获得的桃子数。样例输入3样例输出14...

2020-04-13 22:15:15 462

原创【算法学习】旋转数字正方形

题目描述打印旋转数字正方形输入描述输入一个整数n，1<=n<=31输出描述输出数字正方形。注意，每个数字占4个字符，右对齐，不全则补足空格；样例输入10样例输出 1 2 3 4 5 6 7 8 9 10 36 37 38 39 40 41 42 43 44 11 35 64 65 66 67 ...

2020-04-11 14:44:14 473

原创【文献阅读】PSANet: Point-wise Spatial Attention Network for Scene Parsing

文献阅读我认为这篇最大的亮点是从信息流的角度看待自注意力机制，但是网络设计有些牵强，解释有些生硬。与non-local的主要区别：1.有两个分支来学习关系；2.参数是自适应的而非仅利用相似度。仅从提高感受野的角度来看，与空洞卷积与全局池化的区别在于：基于dilated-convolution和基于pooling扩展以一种非自适应的方式利用了所有图像区域的同构互依赖，忽略了不同区域的局部...

2020-04-07 15:56:38 8513 1

原创【实用技术】git常用操作

git常用操作本地仓库1.全局配置：$ git config --global user.name "用户名"$ git config --global user.email "邮箱地址"查看用户名及邮箱：$ git config --global user.name$ git config --global user.email2.创建仓库$ git init3.添加...

2020-04-04 00:29:05 78

原创【文献阅读】Feature Denoising for Improving Adversarial Robustness

论文网址：https://arxiv.org/abs/1812.03411国内镜像：https://xxx.itp.ac.cn/abs/1812.03411这篇主要解决的是对抗攻击中出现的问题。没有好好研究对抗攻击中具体的算法，就大概知道是怎么回事。对抗攻击：通过对输入添加微小的扰动使得分类器分类错误，一般对用于深度学习的网络的攻击算法最为常见，应用场景包括目前大热的CV和NLP方向，例...

2020-03-30 10:58:02 1961 1

原创【文献阅读及pytorch实践】U-Net: Convolutional Networks for Biomedical Image Segmentation

论文：http://www.arxiv.org/pdf/1505.04597.pdf国内镜像：http://xxx.itp.ac.cn/pdf/1505.04597.pdfU-Net名称主要来源是网络结构呈现U型，左右基本对称。左边是下采样，右边对应着下采样，结构很简单。直接总结我认为有启迪性的点：1.特征融合方式U-Net的特征融合是把channel concat起来，形成更厚的...

2020-03-05 14:57:12 361 1

原创【文献阅读及pytorch实践】Non-local Neural Networks

原文链接：http://arxiv.org/pdf/1711.07971v3国内镜像：http://xxx.itp.ac.cn/pdf/1711.07971v3卷积操作和递归操作都是构建块，一次处理一个局部邻居，在此文中，作者将非局部操作作为捕获远程依赖项的构建块的一个通用族来表示。受传统算法非局部均值启发，非局部操作用所有位置特征的加权来作为一个位置的响应。我们从图像数据来解释，获得比较...

2020-02-26 17:01:30 1447 1

原创【文献阅读及pytorch实践】FCN：Fully Convolutional Networks for Semantic Segmentation

FCN开源代码：https://github.com/shelhamer/fcn.berkeleyvision.org可视化prototxt：netron跑通caffemodel：import numpy as npfrom PIL import Imageimport matplotlib.pyplot as pltimport caffe# load image, s...

2020-02-17 15:33:08 643

原创【文献阅读及pytorch实践】ResNet：Deep Residual Learning for Image Recognition

第一部分.文献阅读首先，作者抛出了一个问题：学习更好的网络就像堆叠更多的层那么简单吗？回答这个问题的一个很大的障碍就是众所周知的梯度消失/梯度爆炸，它从一开始就阻止了收敛。现在这个问题主要是通过初始归一化和中间层归一化来解决，可以使数十层的网络收敛。但是当更深的网络可以收敛的时候，存在一个退化的问题：当网络深度逐渐增加时，精度达到饱和，然后开始退化（目前还不是很懂这个问题的本质原因）这...

2020-02-08 11:47:12 331

原创【文献阅读及pytorch实践】VGG：Very Deep Convolutional Networks For Large-scale Image Recognition

第一部分.文献阅读首先来说这篇文章最主要的贡献：通过减少卷积核的大小（使用3*3的卷积核）来增加网络的深度，当深度为16-19层时达到了当时最好的效果1.架构输入为一张固定224*224的RGB图像，唯一做的预处理是减去训练集图像的平均RGB数值；网络卷积层的卷积规模采用了两种，一种是3 * 3的卷积核（3 * 3是最小的可以捕获到上下左右及中间的尺寸）；另一种是1 * 1的卷积核（可以...

2020-01-16 13:56:50 258

原创【文献阅读及pytorch实践】AlexNet: ImageNet Classification with Deep Convolutional Neural Networks

这篇文章在读的时候并没有遇到特别多的障碍，当然我很清楚这并不是代表我厉害了一点点…单纯的是这篇文章过于经典，可以说他的出现大大激发了人们研究神经网络的热情。文章中采用架构在现在来看并不复杂的卷积神经网络，并且提出了ReLU和dropout等非常经典有效的方法，这些方法是很basic的方法，但在论文中看到这些眼熟的方法还是非常兴奋的，对Alex及他老师Hinton的崇拜之情又加深了好几分。第一部分...

2019-12-04 20:20:12 352 1

原创【文献阅读及pytorch实践】LeNet5：Gradient-Based Learning Applied to Document Recognition

希望通过这种方式强迫自己输出，输出倒逼输入。

2019-11-21 13:00:35 271

weixin_43578873的博客