机器学习
KCDKFT
Life is war with no mercy.
展开
-
UFLDL 教程答案 稀疏编码与softmax篇的答案已经传到资源,大家可以免费下载~
UFLDL 教程答案 稀疏编码篇与softmax篇的答案已经传到资源,大家可以免费下载~另外,关于资源里面描述的低效率的代码的问题,逗比的博主已经找到了解决方案,大家需要修改两个文件的两处代码,绿色是需要被注释的softmaxCos.m文件%% 非向量化%for i = 1 : numCases% thetagrad = thetagrad + (groundTruth(原创 2014-07-30 09:54:19 · 2473 阅读 · 0 评论 -
关于Batch Normalization在Caffe中的使用
在Caffe中使用Batch Normalization需要注意以下两点,1. 要配合Scale层一起使用,具体参见http://blog.csdn.net/sunbaigui/article/details/50807398以及Residual Network2. 训练的时候,将BN层的use_global_stats设置为false,然后测试的时候将use_global_stats原创 2016-08-26 18:48:48 · 12111 阅读 · 12 评论 -
Affine Transformation中Rotate Transformation的等价变换
2D图像中的仿射变换种类有平移,旋转,放缩与SHEAR变换,具体公式可以参考http://cn.mathworks.com/discovery/affine-transformation.html最近的工作是为了训练一个网络来回归这些仿射变换参数,比如平移了多少,放缩了多少等等,但是博主发现,当不考虑SHEAR变换的时候,其他三个变换的参数量都能极好的学习,而且泛化性有很好的保障,但是加入了S原创 2016-07-19 15:33:39 · 1095 阅读 · 0 评论 -
fblualib安装教程
源码地址https://github.com/facebook/fblualib整个安装教程都建立在你没有ROOT权限的情况下的,所以一切的安装都需要你打开shell脚本,一步步执行里面的安装指令,并且要修改很多因为没有root权限而造成的问题。原创 2016-06-24 21:02:17 · 7917 阅读 · 22 评论 -
关于caffe里面image_data_layer的使用
刚入门caffe的肯定是用demo里面的leveldb格式的数据库,说实话这数据库用起来太麻烦了,所以推荐大家入门到精通都用image_data_layer.cpp使用方法如下所示layer { name: "demo" type: "ImageData" top: "data" top: "label" include { phase: TRAIN }原创 2016-05-05 16:22:22 · 18293 阅读 · 14 评论 -
caffe-stn移植到高版本的方法
本文介绍了将github上开源的stn-caffe代码移植到新版本的caffe的方法原创 2016-04-01 11:00:13 · 4447 阅读 · 10 评论 -
ICDAR2015 Robust Reading Task4参赛感想
Robust Reading的Task 4是今年才推出的比赛,与已经公开多年的Task1和Task2相比,Task4的样本是用手机随机拍摄的生活场景,不是刻意针对文字拍摄的。Task1的图像样例Task2 的图像样例Task4的图像样例比赛要求是只检测人眼可以看出来的文字,比较直观,不做过多赘述。下面是一些我的感想吧。代码原创 2015-04-11 12:15:33 · 8151 阅读 · 13 评论 -
才发现CSDN的Rachel Zhang大神就在身边工作
http://blog.csdn.net/abcjennifer/ 这是她的博客 = = 竟然才知道她现在在百度IDL,下周要给我们讲Image to Text的东西。还是经理一句话提醒了我,“我们都是读你的博客长大的” → →原创 2015-08-11 15:44:08 · 6042 阅读 · 2 评论 -
Caffe的Layer介绍
http://demo.netfoucs.com/danieljianfeng/article/details/42929283见所附网址,搜要找的layer的关键字即可转载 2015-08-11 14:36:50 · 1079 阅读 · 0 评论 -
神经进化学的简单介绍和一个简单的CPPN(Compositional Pattern Producing Networks)DEMO
最近迷上神经进化(Neuroevolution)这个方向,感觉是Deep Learning之后的一个很不错的研究领域。该领域的一个主导就是仿照人的遗传机制来进化网络参数与结构。注意,连网络结构都可以进化,就是不像是传统的神经网络,结构是提前定义好的。最近这个领域研究的比较多的是 弗罗里达大学的Stanley教授,主要的贡献有NEAT,HyperNEAT以及Novelty Search,原创 2015-06-03 14:38:31 · 5697 阅读 · 4 评论 -
谈谈如何训练一个性能不错的深度神经网络
深度学习大火,将各个数据集的state of the art不断地刷新,到了开源代码一放出,有种全民皆可刷排名的节奏。不过可别把刷数据想的那么简单,不然大家去哪发paper,怎么混饭吃= = 但是我不想发paper就想占坑刷数据怎么办,看到cifar10都尼玛刷到了95%了,我这用caffe自带的小demo才得出78%的结果,caffe你确定不是在骗我?caffe确实没在骗原创 2015-05-18 16:25:14 · 12934 阅读 · 6 评论 -
胡言乱语找节奏 —— 什么才是机器学习的未来
模板匹配什么才是描述像不像的最直白简单的算法——KNN什么才是学习出最贴近人的认知的模板匹配算法——KMEAN?KMEDOID?or other clustering methods?什么样的结构最贴近人的认知生成模型进化 -> 生成+判别模型判别模型应该只是一种认知的一种,不是认知的全部,认知的全部应该是有概念的,但是判别模型却没法体现这一点但是并不是说有原创 2015-04-27 17:14:48 · 1409 阅读 · 0 评论 -
caffe中cifar10的full_train模型出现nan的解决办法
caffe在cifar10 的example上给出了两个模型,一个是quick模式,一个是full模式,训练full模式时会出现loss=nan的错误原创 2014-12-24 10:53:52 · 15041 阅读 · 10 评论 -
如何在caffe中添加新的Layer
本文分为两部分,先写一个入门的教程,然后再给出自己添加maxout与NIN的layer的方法原创 2014-12-11 15:37:52 · 47893 阅读 · 37 评论 -
哺乳动物视觉皮层的深层结构研究
哺乳动物视觉皮层的深层结构研究参考文献 Deep Hierarchies in the Primate Visual Cortex : what can we learn for computer vision ?----------------------------------------------------------------------------------------------------------原创 2014-12-07 11:29:26 · 2644 阅读 · 0 评论 -
cuda-convnet 在其他数据集上的使用教程
cuda-convnet 是 Alex Krizhevsky 公开的一套CNN代码,运行于Linux系统上,使用GPU做运算,在cuda-convnet中仅仅提供了Cifar数据集的demo,并且网站上并没有说明cuda-convnet代码是如何用于其它数据库的,所以博主我就尝试修改源码,以用于MNIST数据集上,做一个手写数字的识别CNNdemo文章分三个部分:首先,IO模块原创 2014-09-16 16:02:42 · 9416 阅读 · 19 评论 -
CNN中感受野的计算
感受野(receptive field)是怎样一个东西呢,从CNN可视化的角度来讲,就是输出featuremap某个节点的响应对应的输入图像的区域就是感受野。比如我们第一层是一个3*3的卷积核,那么我们经过这个卷积核得到的featuremap中的每个节点都源自这个3*3的卷积核与原图像中3*3的区域做卷积,那么我们就称这个featuremap的节点感受野大小为3*3如果再经过pooling原创 2015-07-10 15:38:08 · 49182 阅读 · 20 评论