- 博客(8)
- 收藏
- 关注
原创 【深度学习技术】卷积神经网络常用激活函数总结
本文记录了神经网络中激活函数的学习过程,欢迎学习交流。神经网络中如果不加入激活函数,其一定程度可以看成线性表达,最后的表达能力不好,如果加入一些非线性的激活函数,整个网络中就引入了非线性部分,增加了网络的表达能力。目前比较流行的激活函数主要分为以下7种:1.sigmoid2.tanh3.ReLu4.Leaky ReLu5.PReL...
2017-04-26 19:13:05 15421
原创 【深度学习技术】LRN 局部响应归一化
LRN(Local Response Normalization) 局部响应归一化笔记本笔记记录学习 LRN(Local Response Normalization),欢迎学习交流。侧抑制(lateral inhibition)计算公式Hinton在2012年的Alexnet网络中给出其具体的计算公式如下:公式看上去比较复杂,但理解起来非常简单。i表示第i个核在位置(x,y)运用激活函数ReLU后
2017-04-24 16:41:56 44313 15
原创 Batch Normalization
https://mlnote.com/2016/12/20/Neural-Network-Batch-Normalization-and-Caffe-Code/ http://geek.csdn.net/news/detail/160906
2017-04-27 18:31:52 336
原创 c# 最小程序结构
最小程序结构一个 C# 程序主要包括以下部分:命名空间声明(Namespace declaration)一个 classClass 方法Class 属性一个 Main 方法语句(Statements)& 表达式(Expressions)注释C# 的最小的程序结构using System;namespace HelloWorldApplication{ class Hell
2017-04-26 14:18:38 569
原创 【深度学习技术】Softmax和SVM的区别与比较
本博客记录Softmax 和SVM分类器的学习过程,欢迎学习交流。目前解决图像分类问题,比较流行的方法是卷积神经网络上。这种方法主要有两部分组成:一个是评分函数(score function),它是原始图像数据到类别分值的映射。另一个是损失函数(loss function),它是用来量化预测分类标签的得分与真实标签之间一致性的。该方法可转化为一个最优化问题,在最优化过程中,将通过更新评分函数的参数来
2017-04-24 18:26:53 11913
原创 CSDN 彩色字体
我是黑体字 我是微软雅黑 我是华文彩云 “黑体” “黑体” “黑体”“黑体”“黑体” “黑体” “黑体” # 8B0000color=#00ffff color=gray
2017-04-21 17:02:00 603
原创 【深度学习论文】FCN
目录用 [TOC]来生成目录:目录网络架构8大模块前2个模块34模块5模块6模块78模块激活函数Dropout 多GPU通信 网络细节和特点“黑体” “黑体” “黑体”1.网络架构整个alexnet网络的架构如下图所示: 注意:输入层的大小其实是227*2278大模块整个网络可以分成8个大模块,其中前5模块四卷积模块,用于提取图片特征,后3个模块是全链接层,用于图像分
2017-04-21 15:54:13 864
原创 最小费用最大流
最小费用最大流本Markdown编辑器使用StackEdit修改而来,用它写博客,将会带来全新的体验哦:参考文献:理论 http://blog.csdn.net/smartxxyx/article/details/9293665 代码实现 http://blog.csdn.net/fobdddf/article/details/19615651 题目原型 http://www.myexce
2017-04-07 16:16:21 434
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人