- 博客(19)
- 资源 (1)
- 收藏
- 关注
RSS订阅转载 学习：从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史
复制链接Bert最近很火，应该是最近最火爆的AI进展，网上的评价很高，那么Bert值得这么高的评价吗？我个人判断是值得。那为什么会有这么高的评价呢？是因为它有重大的理论或者模型创新吗？其实并没有，从模型创新角度看一般，创新不算大。但是架不住效果太好了，基本刷新了很多NLP的任务的最好性能，有些任务还被刷爆了，这个才是关键。另外一点是Bert具备广泛的通用性，就是说绝大部分NLP任务都可以采用类似...
2019-01-31 22:04:59
287
翻译 Bert：论文阅读-BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
摘要：我们引入了一种名为BERT的语言表示模型，它代表Transformers的双向编码器表示（Bidirectional Encoder Representations）。与最近（recent）的语言表示模型（Peters et al.，2018; Radford et al.，2018）不同，BERT旨在（is designed to）通过联合调节（jointly conditioning）所...
2019-01-31 15:28:46
2268
翻译 文献阅读：Feature Pyramid Networks for Object Detection
摘要：特征金字塔（Feature pyramids）是用于检测不同尺度（at different scales）的对象的识别系统中的基本组件。 但是最近的深度学习物体检测器（object detectors）已经避免了金字塔表示（pyramid representations），部分原因（in part because）是它们的计算复杂度高（they are compute and memory ...
2019-01-31 08:55:51
706
转载 经典论文翻译：Deep Residual Learning for Image Recognition
摘要：深度神经网络很难训练。我们提出了一种残差学习框架来尝试解决这一问题。We explicitly reformulate the layers as learning residual functions with reference to the layer inputs, instead of learning unreferenced functions。我们提供全面的经验证据表明这些残...
2019-01-27 22:05:14
1350
转载 详细解释CNN卷积神经网络各层的参数和链接个数的计算
https://blog.csdn.net/dcxhun3/article/details/46878999
2019-01-27 10:42:08
543
转载 学习残差resnet网络
添加链接描述ResNet在2015年被提出，在ImageNet比赛classification任务上获得第一名，因为它“简单与实用”并存，之后很多方法都建立在ResNet50或者ResNet101的基础上完成的，检测，分割，识别等领域都纷纷使用ResNet，Alpha zero也使用了ResNet，所以可见ResNet确实很好用。先看看全图：下面我们从实用的角度去看看ResNet。1.R...
2019-01-27 09:58:13
301
转载 学习：FPN（feature pyramid networks）
论文链接：https://arxiv.org/abs/1612.03144论文概述：作者提出的多尺度的object detection算法：FPN（feature pyramid networks）。原来多数的object detection算法都是只采用顶层特征做预测，但我们知道低层的特征语义信息比较少，但是目标位置准确；高层的特征语义信息比较丰富，但是目标位置比较粗略。另外虽然也有些算法采...
2019-01-27 09:22:07
165
转载 学习ROI Pooling层
ROI Pooling的意义ROIs Pooling顾名思义，是Pooling层的一种，而且是针对RoIs的Pooling，他的特点是输入特征图尺寸不固定，但是输出特征图尺寸固定；什么是ROI呢？ROI是Region of Interest的简写，指的是在“特征图上的框”；1）在Fast RCNN中， RoI是指Selective Search完成后得到的“候选框”在特征图上的映射，如下图...
2019-01-26 20:31:31
204
转载 理解Faster R-CNN
要理解Mask R-CNN，只有先理解Faster R-CNN。因此，根据Faster R-CNN的架构(Faster R-CNN的ZF model的train.prototxt)，画了一个结构图，如下所示：如上图所示，Faster R-CNN的结构主要分为三大部分，第一部分是共享的卷积层-backbone，第二部分是候选区域生成网络-RPN，第三部分是对候选区域进行分类的网络-classif...
2019-01-24 21:27:44
461
转载 理解边框回归(Bounding Box Regression)
Bounding-Box regression在目标检测的一些论文中，都有框回归这一概念。为什么要边框回归？什么是边框回归？边框回归怎么做的？边框回归为什么宽高，坐标会设计这种形式？为什么边框回归只能微调，在离Ground Truth近的时候才能生效？为什么要边框回归？对于上图，绿色的框表示Ground Truth, 红色的框为Selective Search提取的Regio...
2019-01-24 19:15:37
1257
转载 学习：SSD（single shot multibox detector）算法
这篇博客主要介绍SSD算法，该算法是最近一年比较优秀的object detection算法，主要特点在于采用了特征融合。论文：SSD single shot multibox detector论文链接：https://arxiv.org/abs/1512.02325算法概述：本文提出的SSD算法是一种直接预测bounding box的坐标和类别的object detection算法，没有生...
2019-01-22 11:09:27
368
转载 卷积神经网络(CNN)反向传播算法
1 回顾DNN的反向传播算法2 CNN的反向传播算法思想3. 已知池化层的δl\delta_{l}δl，推导上一隐藏层的δl−1\delta_{l-1}δl−14. 已知卷积层的δl\delta^lδl，推导上一隐藏层的δl−1\delta^{l-1}δl−15 已知卷积层的δl\delta^{l}δl，推导该层的W,b的梯度6 CNN反向传播算法总结...
2019-01-21 19:40:30
197
转载 CNN的反向传播推导
卷积神经网络三个重要概念：局部感受野（local receptive fields）共享权重（shared weights）池化（pooling）（1）局部感受野：在全连接的网络中，输入被描绘成纵向排列的神经元，但是在卷积网络中我们把它看成28x28的方形：输入神经元的一小片区域会被连接到下一层隐层，这个区域被称为局部感受野，然后在输入图像中移动局部感受野，每移动一次，对应一个隐层...
2019-01-21 17:48:29
2705
原创 lgeos = CDLL("geos_c.dll")报错Shapely
添加链接描述conda install -c conda-forge shapely
2019-01-06 11:58:50
6783
opencv_python-3.4.2-cp36-cp36m-win_amd64.whl
2018-07-23
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人