机器学习
北漂奋斗者
人生没有绝对的公平,但是相对还是公平的。放在一个天平上,你得到的越多,也必须比别人承受更多。
展开
-
视觉目标跟踪漫谈:从原理到应用
前言: 视觉目标跟踪 (visual object tracking) 是计算机视觉(computer vision) 领域的一个重要研究问题。通常来说,视觉目标跟踪是在一个视频的后续帧中找到在当前帧中定义的感兴趣物体 (object of interest) 的过程,主要应用于一些需要目标空间位置以及外观(形状、颜色等)特性的视觉应用中。1什么是视觉目标跟踪 跟踪是在一个视频的后续帧中找到在当前帧中定义的感兴趣物体 (object of interest) ...原创 2020-07-14 18:04:23 · 2082 阅读 · 0 评论 -
计算机视觉中的注意力机制
之前在看DETR这篇论文中的self_attention,然后结合之前实验室组会经常提起的注意力机制,所以本周时间对注意力机制进行了相关的梳理,以及相关的源码阅读了解其实现的机制01 注意力机制(attention mechanism)02 自注意力(self-attention)03 软注意力(soft-attention) 1、空间域注意力(spatial transformer network) 2、通道注意力(Channe...转载 2020-06-11 19:42:34 · 757 阅读 · 0 评论 -
机器学习实战之k-近邻算法
k-近邻算法概述:简单地说,k-近邻算法采用测量不同特征值之间的距离方法进行分类 本书讲解的第一个机器学习算法是k-近邻算法(kNN),它的工作原理是:存在一个样本数据集合,也称作训练样本集,并且样本集中每个数据都存在标签,即我们知道样本集中每一数据与所属分类的对应关系。输入没有标签的新数据后,将新数据的每个特征与样本集中数据对应的特征进行比较,然后算法提取样本集中特征最相...原创 2020-05-05 18:10:44 · 239 阅读 · 0 评论 -
目标检测中的不平衡问题综述
什么是不平衡问题?一个我们最常想到的不平衡问题是:目标类别的不平衡。比如猫狗数据标注数量差异比较大。但这只是类别个数这一个输入特性。将不平衡问题分成四种类型,如下表: 1. 类别不平衡:前景和背景不平衡、前景中不同类别输入包围框的个数不平衡;2. 尺度不平衡:输入图像和包围框的尺度不平衡,不同特征层对最终结果贡献不平衡;3. 空间不平衡:不同样本对回归损失...原创 2020-04-28 08:35:11 · 947 阅读 · 0 评论 -
机器学习算法中的准确率(Precision)、召回率(Recall)、F值(F-Measure)
摘要: 数据挖掘、机器学习和推荐系统中的评测指标—准确率(Precision)、召回率(Recall)、F值(F-Measure)简介。引言: 在机器学习、数据挖掘、推荐系统完成建模之后,需要对模型的效果做评价。业内目前常常采用的评价指标有准确率(Precision)、召回率(Recall)、F值(F-Measure)等,下图是不同机器学习算法的评价指标。下文讲对其中某些指标做...转载 2019-10-23 11:36:41 · 579 阅读 · 0 评论 -
卷积神经网络中的参数学习
在卷积网络中,参数为卷积核中权重以及偏置。和全连接前馈网络类似,卷积网络也可以通过误差反向传播算法来进行参数学习。 在卷积神经网络中,主要有两种不同功能的神经层:卷积层和汇聚层。而参数为卷积核以及偏置,因此只需要计算卷积层中参数的梯度。 误差项的计算卷积层和汇聚层中...原创 2019-07-09 21:58:46 · 2931 阅读 · 1 评论 -
卷积神经网络(其他卷积方式)
介绍一些其它的卷积方式:转置卷积 假设有一个高维向量为x ∈ 和一个低维向量为z ∈ ,p < d。如果用仿射变换来实现高维到低维的映射, z = Wx, (...原创 2019-07-10 16:35:36 · 1147 阅读 · 0 评论 -
神经元
人工神经元(Artificial Neuron),简称神经元(Neuron),是构成神经网络的基本单元,其主要是模拟生物神经元的结构和特性,接受一组输入信号并产出输出。 一个生物神经元通常具有多个树突和一条轴突。树突用来接受信息,轴突用来发送信息。当神经元所获得的输入信号的积累超过某个阈值时,它就处于兴奋状态,产生电脉冲。轴突尾端有许多末梢可以给其他个...原创 2019-06-30 22:00:05 · 4893 阅读 · 0 评论 -
网络结构
要想模拟人脑的能力,单一的神经元是远远不够的,需要通过很多神经元一起协作来完成复杂的功能。这样通过一定的连接方式或信息传递方式进行协作的神经元可以看作是一个网络,就是神经网络。人工神经网络由神经元模型构成,这种由许多神经元组成的信息处理网络具有并行分布结构。目前常用的神经网络结构有以下三种: 前馈网络 ...原创 2019-07-01 09:06:16 · 853 阅读 · 0 评论 -
前馈神经网络(Feedforward Neural Network,FNN)----最早发明的简单人工神 经网络
前馈神经网络的示例: 第0 层叫输入层,最后一层叫输出层,其它中间层叫做隐藏层。整个网络中无反馈,信号从输入层向输出层单向传播,可用一个有向无环图表示 。(每一层的神经元可以接收前一层神经元的信号,并产生信号输出到下一层)前馈神经网络也经常称为多层感知器(Multi-Layer Perceptron,MLP)。...原创 2019-07-01 10:03:29 · 26832 阅读 · 0 评论 -
卷积神经网络(二)
卷积神经网络一般由卷积层、池化层和全连接层构成。 在全连接前馈神经网络中,如果第l 层有个神经元,第l − 1 层有个神经元,连接边有× 个,也就是权重矩阵有 个参数。当m和n都很大时,权重矩阵的参数非常多,训练的效率会非常低。 如果采用卷积来代替全连接,第L 层的净输入z(L) 为第L−1 层活性值a(L−1)和滤波器w(L) ∈ Rm 的卷积,即 ...原创 2019-07-09 15:43:20 · 770 阅读 · 0 评论 -
卷积在深度学习中的作用
转自http://www.mamicode.com/info-detail-2340306.html 卷积可能是现在深入学习中最重要的概念。卷积网络和卷积网络将深度学习推向了几乎所有机器学习任务的最前沿。但是,卷积如此强大呢?它是如何工作的?在这篇博客文章中,我将解释卷积并将其与其他概念联系起来,以帮助您彻底理解卷积。什么是卷积? 将卷积想象为信息...转载 2019-07-04 11:39:31 · 11104 阅读 · 1 评论 -
机器学习简要概述
通俗地讲,机器学习(Machine Learning,ML)就是让计算机从数据中进行自动学习,得到某种知识(或规律)。作为一门学科,机器学习通常指一类问题以及解决这类问题的方法,即如何从观测数据(样本)中寻找规律,并利用学习到的规律(模型)对未知或无法观测的数据进行预测。1.首先介绍下机器学习中的一些基本概念:包括样本、特征、标签、模型、学习算法等。以一个生活...原创 2019-06-10 21:35:13 · 531 阅读 · 0 评论 -
Softmax 回归
Softmax 回归(Softmax Regression),也称为多项(multinomial)或多类(multi-class)的logistic 回归,是logistic 回归在多类分类问题上的推广。 同样,我们贴一下wiki百科对softmax函数的定义: softmax is a generalization of logistic fun...原创 2019-06-25 10:39:14 · 194 阅读 · 0 评论 -
Feature Pyramid Networks for Object Detection(一)
基本概述: 特征金字塔网络是识别系统中对于检测不同尺寸的目标是一种基本组件。但是因为特征金字塔的计算和存储密集,最近深度学习目标已经避免使用特征金字塔的表示。文中提出一种利用卷积神经网络固有的多尺寸金字塔层次等级来构造特征金字塔。开发一种具有横向连接的自上而下架构,用于所有尺寸上构建高级语义特征图。作为一种通用的特征提取器,Feature Pyramid Network(PFN)在...原创 2019-06-11 21:49:42 · 1054 阅读 · 0 评论 -
主要介绍四种不同线性分类模型:感知器
我们主要介绍四种不同线性分类模型:logistic 回归、softmax 回归、感知器和支持向量机,这些模型区别主要在于使用了不同的损失函数。 感知器(Perceptron)由Frank Roseblatt 于1957 年提出,是一种广泛使用的线性分类器。感知器可谓是最简单的人工神经网络,只有一个神经元。 感知器是对...原创 2019-06-26 21:17:19 · 3291 阅读 · 0 评论 -
主要介绍四种不同线性分类模型:SVM
支持向量机(Support Vector Machine,SVM)是一个经典两类分类算法,其找到的分割超平面具有更好的鲁棒性,因此广泛使用在很多任务上,并表现出了很强优势。 核函数 软间隔...原创 2019-06-27 09:22:41 · 4339 阅读 · 0 评论 -
线性模型(线性判别函数和决策边界和 logistic 回归 )
我们主要介绍四种不同线性分类模型:logistic 回归、softmax 回归、感知器和支持向量机,这些模型区别主要在于使用了不同的损失函数。 线性模型(Linear Model)是机器学习中应用最广泛的模型,指通过样本特征的线性组合来进行预测的模型。给定一个d 维样本[, · · · , ]T,其线性组合函数为 ...原创 2019-06-24 22:24:22 · 4263 阅读 · 0 评论 -
归一化 (Normalization)、标准化 (Standardization)和中心化/零均值化 (Zero-centered)
归一化: 1)把数据变成(0,1)或者(1,1)之间的小数。 主要是为了数据处理方便提出来的,把数据映射到0~1范围之内处理,更加便捷快速。 2)把有量纲表达式变成无量纲表达式,便于不同单位或量级的指标能够进行比较和加...转载 2019-07-03 17:08:48 · 5775 阅读 · 0 评论 -
反向传播算法
一文弄懂神经网络中的反向传播法——BackPropagation 最近在看深度学习的东西,一开始看的吴恩达的UFLDL教程,有中文版就直接看了,后来发现有些地方总是不是很明确,又去看英文版,然后又找了些资料看,才发现,中文版的译者在翻译的时候会对省略的公式推导过程进行补充,但是补充的又是错的,难怪觉得有问题。反向传播法其实是神经网络的基础了,但是很多人在学的时候总是会遇到一些问题,或者看到大...转载 2019-07-03 17:44:27 · 89 阅读 · 0 评论