神经网络
北漂奋斗者
人生没有绝对的公平,但是相对还是公平的。放在一个天平上,你得到的越多,也必须比别人承受更多。
展开
-
Feature Pyramid Networks for Object Detection(接)
2. 相关工作 手工工程特征和早期的神经网络:SIFT特征是最初是在尺寸空间极值中提取的,并用于特征点匹配。方向梯度直方图(HOG特)征以及之后的尺度不变特征变换(SIFT),都是在整张图像金字塔上进行密集计算的。方向梯度直方图(HOG特)征以及之后的尺度不变特征变换(SIFT)已经被用于许多的作品中,用于图像分类、目标检测、人类姿态估计等。对快速地计算特征图像金字塔也有...翻译 2019-06-12 17:27:38 · 226 阅读 · 0 评论 -
物体检测的轮回: anchor-based 与 anchor-free
anchor-free 和 anchor-based 区别几何 这个问题首先需要回答为什么要有 anchor。在深度学习时代,物体检测问题通常都被建模成对一些候选区域进行分类和回归的问题。在单阶段检测器中,这些候选区域就是通过滑窗方式产生的 anchor;在两阶段检测器中,候选区域是 RPN 生成的 proposal,但是 RPN 本身仍然是对滑窗方式产生的 anchor 进行分类...转载 2019-07-20 10:17:24 · 2367 阅读 · 0 评论 -
前馈神经网络(Feedforward Neural Network,FNN)----最早发明的简单人工神 经网络
前馈神经网络的示例: 第0 层叫输入层,最后一层叫输出层,其它中间层叫做隐藏层。整个网络中无反馈,信号从输入层向输出层单向传播,可用一个有向无环图表示 。(每一层的神经元可以接收前一层神经元的信号,并产生信号输出到下一层)前馈神经网络也经常称为多层感知器(Multi-Layer Perceptron,MLP)。...原创 2019-07-01 10:03:29 · 26326 阅读 · 0 评论 -
网络结构
要想模拟人脑的能力,单一的神经元是远远不够的,需要通过很多神经元一起协作来完成复杂的功能。这样通过一定的连接方式或信息传递方式进行协作的神经元可以看作是一个网络,就是神经网络。人工神经网络由神经元模型构成,这种由许多神经元组成的信息处理网络具有并行分布结构。目前常用的神经网络结构有以下三种: 前馈网络 ...原创 2019-07-01 09:06:16 · 837 阅读 · 0 评论 -
神经元
人工神经元(Artificial Neuron),简称神经元(Neuron),是构成神经网络的基本单元,其主要是模拟生物神经元的结构和特性,接受一组输入信号并产出输出。 一个生物神经元通常具有多个树突和一条轴突。树突用来接受信息,轴突用来发送信息。当神经元所获得的输入信号的积累超过某个阈值时,它就处于兴奋状态,产生电脉冲。轴突尾端有许多末梢可以给其他个...原创 2019-06-30 22:00:05 · 4846 阅读 · 0 评论 -
卷积神经网络(其他卷积方式)
介绍一些其它的卷积方式:转置卷积 假设有一个高维向量为x ∈ 和一个低维向量为z ∈ ,p < d。如果用仿射变换来实现高维到低维的映射, z = Wx, (...原创 2019-07-10 16:35:36 · 1126 阅读 · 0 评论 -
典型的卷积神经网络
各层计算详解https://www.cnblogs.com/touch-skyer/p/9150039.html介绍几种广泛使用的典型深层卷积神经网络。(1)LeNet-5 (详解https://blog.csdn.net/happyorg/article/details/78274066) 基于LeNet-5 的手写数字识别系统在90 年...原创 2019-07-10 15:53:17 · 1203 阅读 · 0 评论 -
U-Net: Convolutional Networks for Biomedical Image Segmentation 解析
网络结构包括一个捕获上下文信息的收缩路径和一个用于精确定位的对称扩张路径,该网络能使用很少的图像就能够进行端到端的训练,并且在ISBI对电子显微镜下神经元结构进行的分割挑战方面胜过先前的最佳方法(滑动窗口卷积网络)。结构卷积层: 无填充卷积+relu+(2*2,stride=2)的max pooling卷积滤波器的数量每次下采样后double。patch: 上采样的时候...原创 2019-07-05 11:07:14 · 6925 阅读 · 0 评论 -
卷积神经网络中的参数学习
在卷积网络中,参数为卷积核中权重以及偏置。和全连接前馈网络类似,卷积网络也可以通过误差反向传播算法来进行参数学习。 在卷积神经网络中,主要有两种不同功能的神经层:卷积层和汇聚层。而参数为卷积核以及偏置,因此只需要计算卷积层中参数的梯度。 误差项的计算卷积层和汇聚层中...原创 2019-07-09 21:58:46 · 2900 阅读 · 1 评论 -
卷积在深度学习中的作用
转自http://www.mamicode.com/info-detail-2340306.html 卷积可能是现在深入学习中最重要的概念。卷积网络和卷积网络将深度学习推向了几乎所有机器学习任务的最前沿。但是,卷积如此强大呢?它是如何工作的?在这篇博客文章中,我将解释卷积并将其与其他概念联系起来,以帮助您彻底理解卷积。什么是卷积? 将卷积想象为信息...转载 2019-07-04 11:39:31 · 11071 阅读 · 1 评论 -
图像的上采样和小采样
上采样和下采样缩小图像(或称为下采样(subsampled)或降采样(downsampled))的主要目的有两个: 1、使得图像符合显示区域的大小; 2、生成对应图像的缩略图。放大图像(或称为上采样(upsampling)或图像插值(interpolating))的主要目的是放大原图像,可以显示在更高分...转载 2019-07-04 11:08:18 · 278 阅读 · 0 评论 -
卷积神经网络(二)
卷积神经网络一般由卷积层、池化层和全连接层构成。 在全连接前馈神经网络中,如果第l 层有个神经元,第l − 1 层有个神经元,连接边有× 个,也就是权重矩阵有 个参数。当m和n都很大时,权重矩阵的参数非常多,训练的效率会非常低。 如果采用卷积来代替全连接,第L 层的净输入z(L) 为第L−1 层活性值a(L−1)和滤波器w(L) ∈ Rm 的卷积,即 ...原创 2019-07-09 15:43:20 · 747 阅读 · 0 评论 -
反向传播算法
一文弄懂神经网络中的反向传播法——BackPropagation 最近在看深度学习的东西,一开始看的吴恩达的UFLDL教程,有中文版就直接看了,后来发现有些地方总是不是很明确,又去看英文版,然后又找了些资料看,才发现,中文版的译者在翻译的时候会对省略的公式推导过程进行补充,但是补充的又是错的,难怪觉得有问题。反向传播法其实是神经网络的基础了,但是很多人在学的时候总是会遇到一些问题,或者看到大...转载 2019-07-03 17:44:27 · 85 阅读 · 0 评论 -
归一化 (Normalization)、标准化 (Standardization)和中心化/零均值化 (Zero-centered)
归一化: 1)把数据变成(0,1)或者(1,1)之间的小数。 主要是为了数据处理方便提出来的,把数据映射到0~1范围之内处理,更加便捷快速。 2)把有量纲表达式变成无量纲表达式,便于不同单位或量级的指标能够进行比较和加...转载 2019-07-03 17:08:48 · 5679 阅读 · 0 评论 -
卷积神经网络(一)
总体概述:卷积神经网络(Convolutional Neural Network,CNN或ConvNet)是一种具有局部连接、权重共享等特性的深层前馈神经网络。卷积神经网络最早是主要用来处理图像信息。如果用全连接前馈网络来处理图像时,会存在以下两个问题: (1)参数太多 (2)局部不变性特征(尺度缩放、平移、旋转等操作不影响其语义信息,而全连接前...原创 2019-07-09 10:06:21 · 1660 阅读 · 0 评论 -
线性模型(线性判别函数和决策边界和 logistic 回归 )
我们主要介绍四种不同线性分类模型:logistic 回归、softmax 回归、感知器和支持向量机,这些模型区别主要在于使用了不同的损失函数。 线性模型(Linear Model)是机器学习中应用最广泛的模型,指通过样本特征的线性组合来进行预测的模型。给定一个d 维样本[, · · · , ]T,其线性组合函数为 ...原创 2019-06-24 22:24:22 · 4219 阅读 · 0 评论 -
主要介绍四种不同线性分类模型:感知器
我们主要介绍四种不同线性分类模型:logistic 回归、softmax 回归、感知器和支持向量机,这些模型区别主要在于使用了不同的损失函数。 感知器(Perceptron)由Frank Roseblatt 于1957 年提出,是一种广泛使用的线性分类器。感知器可谓是最简单的人工神经网络,只有一个神经元。 感知器是对...原创 2019-06-26 21:17:19 · 3265 阅读 · 0 评论 -
机器学习简要概述
通俗地讲,机器学习(Machine Learning,ML)就是让计算机从数据中进行自动学习,得到某种知识(或规律)。作为一门学科,机器学习通常指一类问题以及解决这类问题的方法,即如何从观测数据(样本)中寻找规律,并利用学习到的规律(模型)对未知或无法观测的数据进行预测。1.首先介绍下机器学习中的一些基本概念:包括样本、特征、标签、模型、学习算法等。以一个生活...原创 2019-06-10 21:35:13 · 506 阅读 · 0 评论 -
拉格朗日乘数法
拉格朗日乘数法是用来求条件极值的,极值问题有两类,其一,求函数在给定区间上的极值,对自变量没有其它要求,这种极值称为无条件极值。其二,对自变量有一些附加的约束条件限制下的极值,称为条件极值。例如给定椭球 求这个椭球的内接长方体的最大体积。这个问题...转载 2019-08-30 09:58:08 · 2772 阅读 · 0 评论