机器学习
文章平均质量分 90
一江明澈的水
从入门到放弃,绝对不会忽悠
展开
-
【简述与推导】似然函数,最大似然估计,条件概率,全概率,贝叶斯概率
目录1. 似然(likehood)与最大似然估计2. 条件概率(conditional probability),全概率(total probability),和贝叶斯概率(Bayes probability)2.1联合概率==>条件概率:2.2 联合概率==>全概率公式:2.3 条件概率+联合概率==>贝叶斯概率公式:1. 似然(likehood)与最...原创 2019-11-25 18:04:44 · 2144 阅读 · 0 评论 -
机器学习降维与数据可视化
从SNE到t-SNE再到LargeVishttp://bindog.github.io/blog/2016/06/04/from-sne-to-tsne-to-largevis/转载 2018-04-10 15:28:11 · 646 阅读 · 0 评论 -
python内存监控工具memory_profiler和guppy的用法
python2.7在内存管理上相比python3还是有些坑的,其释放后的内存仍然保留在python的内存池中,不被系统所用。python循环引用的变量不会被回收,这会导致程序越运行,占用的内存越大。我在跑py-faster-rcnn的demo时,基本上跑2000张图像,16g内存就要爆了。于是尝试用python的内存监控工具来调试程序,找到不能膨胀的变量,然后del之,再手动回收内存gc.coll...转载 2018-03-26 20:16:44 · 31022 阅读 · 3 评论 -
FAIR开源目标识别平台Detectron从入门到放弃(二) 使用自己的数据集(voc2007格式)训练Detectron
FAIR的detectron平台官方demo是基于MSCOCO数据集训练的,小白从faster rcnn一路走来,用的都是voc2007数据集格式,呕心沥血标注了voc2007格式的自建数据集,不能用了?不可以!我没找到detectron官方给出的voc转coco代码,幸好MCOCO有官方的cocoapi,支持多种数据集转coco格式,伸手党福利。小白关注的是目标识别,按照本文的方法keypoin...原创 2018-03-06 16:58:04 · 14667 阅读 · 31 评论 -
训练py-faster rcnn的两种方式以及自己模型的迁移学习
faster rcnn训练方式有两种,一种是交替优化方法(alternating optimization),即训练两个网络,一个是rpn,一个是fast rcnn,总计两个stage,每个stage各训练一次rpn和fast rcnn。另外一种训练方式为近似联合训练(approximate joint training),也称end to end的训练方式,训练过程中只训练一个权重网络,训练速度...原创 2018-03-15 17:35:08 · 10381 阅读 · 8 评论 -
Ubuntu16.04+Cuda8.0+cuDNN6配置py-faster rcnn
0前言Faster R-CNN是任少卿2015年底推出的目标检测算法 ,时至今日依旧还是Object Detection领域最好方法之一,基于该框架后续推出了 R-FCN,Mask R-CNN 等改进框架,但基本结构变化不大。同时不乏有SSD,YOLO2等骨骼清奇的新作,虽然在速度上大幅度领先Faster R-CNN,尤以SSD lite和yolo lite为甚, 但精度上依然以Faster R-...原创 2018-03-14 18:27:05 · 1284 阅读 · 0 评论 -
CNNdroid+Caffe使用攻略
支持嵌入式平台的深度学习框架有CNNdroid, darknet,mxnet,tiny-dnn,以及腾讯的ncnn,下面转载了一篇CNNdriod框架的开发过程。欢迎留言交流lab里在弄机器学习,坑了自己那么多,写篇详细点的CNNdroid的资料吧,国内好像好少看到CNNdroid的资料,用起来感觉速度还OK的。 github:https://github.com/hirorogith转载 2017-10-10 16:17:57 · 592 阅读 · 0 评论 -
theano 实现图像局部对比度归一化
很多时候我们需要对图像进行局部对比度归一化,比如分块CNN的预处理阶段。theano对此提供了一些比较方便的操作。局部归一化的一种简单形式为:其中μ和σ分别为局部(例如3x3的小块)的均值和标准差。利用代码说明一下如何实现:import theanoimport numpyfrom theano.sandbox import neighboursfrom theano转载 2017-10-10 10:16:06 · 1443 阅读 · 0 评论 -
SMO算法的极简数学推导
0. 引言 SMO(Sequential Minimal Optimization)是高效实现SVM(Support Vector Machine)的最常见算法。首先简单介绍下SVM方法。1.支持向量机SVM对于需要划分类别的n维样本空间中,需要划一条n-1维的超平面(3维及以上)来划分样本类别。这个超平面可以通过以下线性方程来描述:,其中w为法向量w=(w1;w2;w3……)原创 2017-09-28 18:23:10 · 964 阅读 · 0 评论 -
深入解析python版SVM
对于SVM的基本理论不做解释,以及对公式的转换不做分析,直接进入SMO算法中对拉格朗日乘子的求解。求解过程为: 1.选择两个乘子a1和a2。 2.对乘子a2求其上下界 3.求出新的乘子a2 4.依据其上下界对新乘子a2进行剪转载 2017-09-27 14:00:39 · 724 阅读 · 0 评论 -
什么是范数?
我们知道距离的定义是一个宽泛的概念,只要满足非负、自反、三角不等式就可以称之为距离。范数是一种强化了的距离概念,它在定义上比距离多了一条数乘的运算法则。有时候为了便于理解,我们可以把范数当作距离来理解。在数学上,范数包括向量范数和矩阵范数,向量范数表征向量空间中向量的大小,矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是,对应向量范数,向量空间中的向量都是有大小的,这个大小如何度量,就转载 2017-09-27 10:12:27 · 952 阅读 · 0 评论