2017年04月_CrazyVertigo

原创【深度学习技术】卷积神经网络常用激活函数总结

本文记录了神经网络中激活函数的学习过程，欢迎学习交流。神经网络中如果不加入激活函数，其一定程度可以看成线性表达，最后的表达能力不好，如果加入一些非线性的激活函数，整个网络中就引入了非线性部分，增加了网络的表达能力。目前比较流行的激活函数主要分为以下7种：1.sigmoid2.tanh3.ReLu4.Leaky ReLu5.PReL...

2017-04-26 19:13:05 15421

LRN(Local Response Normalization）局部响应归一化笔记本笔记记录学习 LRN(Local Response Normalization），欢迎学习交流。侧抑制（lateral inhibition）计算公式Hinton在2012年的Alexnet网络中给出其具体的计算公式如下：公式看上去比较复杂，但理解起来非常简单。i表示第i个核在位置（x,y）运用激活函数ReLU后

2017-04-24 16:41:56 44313 15

原创 Batch Normalization

https://mlnote.com/2016/12/20/Neural-Network-Batch-Normalization-and-Caffe-Code/ http://geek.csdn.net/news/detail/160906

2017-04-27 18:31:52 336

原创 c# 最小程序结构

最小程序结构一个 C# 程序主要包括以下部分：命名空间声明（Namespace declaration）一个 classClass 方法Class 属性一个 Main 方法语句（Statements）& 表达式（Expressions）注释C# 的最小的程序结构using System;namespace HelloWorldApplication{ class Hell

2017-04-26 14:18:38 569

原创【深度学习技术】Softmax和SVM的区别与比较

本博客记录Softmax 和SVM分类器的学习过程，欢迎学习交流。目前解决图像分类问题，比较流行的方法是卷积神经网络上。这种方法主要有两部分组成：一个是评分函数（score function），它是原始图像数据到类别分值的映射。另一个是损失函数（loss function），它是用来量化预测分类标签的得分与真实标签之间一致性的。该方法可转化为一个最优化问题，在最优化过程中，将通过更新评分函数的参数来

2017-04-24 18:26:53 11913

原创 CSDN 彩色字体

我是黑体字我是微软雅黑我是华文彩云 “黑体” “黑体” “黑体”“黑体”“黑体” “黑体” “黑体” # 8B0000color=#00ffff color=gray

2017-04-21 17:02:00 602

原创【深度学习论文】FCN

目录用 [TOC]来生成目录：目录网络架构8大模块前2个模块34模块5模块6模块78模块激活函数Dropout 多GPU通信网络细节和特点“黑体” “黑体” “黑体”1.网络架构整个alexnet网络的架构如下图所示：注意：输入层的大小其实是227*2278大模块整个网络可以分成8个大模块，其中前5模块四卷积模块，用于提取图片特征，后3个模块是全链接层，用于图像分

2017-04-21 15:54:13 864

原创最小费用最大流

最小费用最大流本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦：参考文献：理论 http://blog.csdn.net/smartxxyx/article/details/9293665 代码实现 http://blog.csdn.net/fobdddf/article/details/19615651 题目原型 http://www.myexce

2017-04-07 16:16:21 434

谢军的博客