MATLAB绘制caffe训练日志曲线

公司机器上,我是非管理员账户,python画图缺少一些库,但是又没有权限安装,所以考虑matlab。 使用MATLAB画caffe的训练日志,其实就是找规律; 代码如下:...
阅读(2134) 评论(3)

人脸识别:PairLoss

本次介绍的人脸识别方法,其核心贡献就是如何加快相似度的学习速度,这里所谓的相似度和一般意义上的Triplet Loss很像,即:相同身份的人脸距离较近,不同身份的人脸距离较远。方法来源于: 《arxiv:Learning a Metric Embedding for Face Recognition using the Multibatch Method》 Introduction 很多人脸识别...
阅读(2883) 评论(3)

caffe层解读系列-softmax_loss

Loss Function 可选参数 使用方法 扩展使用Loss Functionsoftmax_loss的计算包含2步:(1)计算softmax归一化概率(2) 计算损失这里以batchsize=1的2分类为例: 设最后一层的输出为[1.2 0.8],减去最大值后为[0 -0.4], 然后计算归一化概率得到[0.5987 0.4013], 假如该图片的label为1,则Loss=-log0....
阅读(17045) 评论(11)

Sublime Text3配置Markdown

1. 安装 Package Control1.菜单打开view->Show Console,或者直接快捷键Ctrl+`调出console 2.输入下列代码并回车import urllib.request,os; pf = 'Package Control.sublime-package'; ipp = sublime.installed_packages_path(); urllib.reques...
阅读(580) 评论(0)

深度学习——缩减+召回加速网络训练

本次介绍的是怎样通过对训练数据进行缩减以及召回而加快网络训练速度,《Accelerating Deep Learning with Shrinkage and Recall》。这篇文章给人的感受就是:想法很简单,实现的也很粗糙。但是,问题的角度比较新颖,而且感觉有很大空间可以继续挖掘。 Motivation 实现 Motivation深度神经网络训练比较慢,原因基本可以归为2个方面:模型太大 和...
阅读(1203) 评论(0)

Opencv 完美配置攻略 2014 (Win8.1 + Opencv 2.4.8 + VS 2013)

原文地址为:http://my.phirobot.com/blog/2014-02-opencv_configuration_in_vs.html 2012年4月给同学写了篇傻瓜式的 VS2010+Opencv-2.4.0的配置攻略 结果没有想到,点击量一路飙升,固定在了Google “Opencv 配置” 关键词搜索的榜首。现在看看,已经过时了,版本升级后看不到ttb了,还有很多不...
阅读(1312) 评论(0)

VS2013 配置 VLFeat

VLFeat是一个类似opencv的开源计算机视觉库,配置简单,代码高效,非常好用。项目主页为 http://www.vlfeat.org/index.html首先到http://www.vlfeat.org/download.html下载bin文件包并解压。(1)将解压路径添加到系统变量PATH中(2)新建VS2013空项目并配置编译器选择所有配置,并根据自己的系统类型选择平台(我这里新建为X64...
阅读(1111) 评论(0)

神经网络压缩:Deep Compression

本次介绍的方法为“深度压缩”,文章来源与2016ICLR最佳论文 《Deep Compression: Compression Deep Neural Networks With Pruning, Trained Quantization And Huffman CodingIntroduction神经网络功能强大。但是,其巨大的存储和计算代价也使得其实用性特别是在移动设备上的应用受到了很大限制。所...
阅读(9058) 评论(11)

深度学习——MSRA初始化

本次简单介绍一下MSRA初始化方法,方法同样来自于何凯明paper 《Delving Deep into Rectifiers:Surpassing Human-Level Performance on ImageNet Classification》.Motivation MSRA初始化 推导证明 补充说明 Motivation网络初始化是一件很重要的事情。但是,传统的固定方差的高斯分布初始化,在...
阅读(7066) 评论(1)

深度学习——PReLU激活

本次介绍PReLU激活函数以及MSRA初始化方法,方法来自于何凯明paper 《Delving Deep into Rectifiers:Surpassing Human-Level Performance on ImageNet Classification》.PReLU激活PReLU(Parametric Rectified Linear Unit), 顾名思义:带参数的ReLU。二者的定义和区...
阅读(9481) 评论(0)

深度学习——Xavier初始化方法

“Xavier”初始化方法是一种很有效的神经网络初始化方法,方法来源于2010年的一篇论文《Understanding the difficulty of training deep feedforward neural networks》,可惜直到近两年,这个方法才逐渐得到更多人的应用和认可。为了使得网络中信息更好的流动,每一层输出的方差应该尽量相等。基于这个目标,现在我们就去推导一下:每一层的权...
阅读(21838) 评论(9)

caffe添加新层教程

时间节点2016.04,即caffe重大更新后(每一种层都对应一个同名cpp和hpp文件)。描述一下本次要实现层的功能:正向直接copy传播,反向时将梯度放缩指定倍。这个层对一些特定的网络结构有很重要的辅助作用,比如有时我们的网络存在分支,但我们不希望某一分支影响之前层的更新,那么我们就将梯度放缩0倍。(1)创建HPP头文件diff_cutoff_layer.hpp不同功能类型的层所引的头文件也不同...
阅读(16811) 评论(12)

VS编译生成MATLAB接口程序

实验平台:win10 64bit + VS2013 +MATLAB2014 64bit 首先说明一下我为什么要在VS下编译生成.mexw64文件,而不是直接在MATLAB里面进行mex编译:因为前者可以更加方便的附加dll和lib等链接库文件,而且后面调试起来也更加方便。(1)创建VS项目,选择Win32控制台应用程序,附加选项空项目。(2)在项目里面添加自己的头文件以及源文件。然后“源文件”右键“...
阅读(4671) 评论(0)
    个人资料
    • 访问:411311次
    • 积分:5038
    • 等级:
    • 排名:第5767名
    • 原创:115篇
    • 转载:11篇
    • 译文:1篇
    • 评论:445条
    最新评论