- 博客(9)
- 收藏
- 关注
原创 cs231n-notes-Lecture-10:Recurrent Neural Networks
Recurrent Neural Networks: Process Sequencesone to one: Vanilla Neural Networks. rawone to many: eg. Image Captioning image -> sequence of wordsmany to one: e.g. Sentiment Classification seque...
2018-09-18 15:15:14
208
原创 cs231n-notes-Lecture-9:AlexNet/VGGNet/GoogleNet/ResNet
Lecture 9 CNN ArchitecturesAlexNetVGGNetSmall filtersWhy?Stack of three 3x3 conv (stride 1) layers has same effective receptive field as one 7x7 conv layerBut deeper, more non-linearitiesAn...
2018-09-18 15:11:22
239
原创 cs231n-notes-Lecture-7:各种优化方法介绍与比较
Lecture-7 Training Neural NetworksOptimizationSGDConsVery slow progress along shallow dimension, jitter along steep direction. 2. local minima or saddle point. Saddle points are much more comm...
2018-09-18 15:07:53
382
原创 cs231n-notes-Lecture-4/5/6: 反向传播/激活函数/数据预处理/权重初始化/batch norm
Lecture-4 Backpropagation and Neural NetworksComputational GraphsNode gradient = [local gradient] x [upstream gradient]add gate: gradient distributormax gate: gradient router (choose only a way)...
2018-09-18 15:00:51
280
原创 cs231n-notes-Lecture-2/3
CS231n主要是关于image classification的一些算法以及迁移到其他问题的几个应用。这几节的内容比较基础,正好有时间就过一遍。Lecture 2 image classification pipelinecompare two imagesL1 (Mahanttan)Distance: $ L = \sum{|X_{ij} - Y_{ij}|}$depends on ...
2018-09-18 14:52:40
126
原创 DBN、RBM - 涉及的基础知识
最近在看zhirong Wu的3D shapeNets的论文,涉及到RBM及DBN的一些知识,正好趁这个机会整理一下相关知识。先说一下RBM(Restricted Boltzmann Machine)是指受限玻尔兹曼机,是一种基于随机神经网络来解释的概率图模型。Hinton在2016年提出DBN(Deep Belief Network)后,DBN和RBM在机器学习界引起了很广泛的应用。涉及知识...
2018-09-18 14:45:52
837
原创 理解RBM&DBN
RBM关于受限玻尔兹曼机RBM,网上很多博客[1][2]都总结推导RBM很详细,很少有人能通俗地解释一下RBM的用途和有点,我觉得[2]写得很好,可以参考辅助理解,下面简单总结一下我的理解和一些相关知识。网络结构RBM是一个无监督拟合训练数据分布的一种方法。包含两层,可视层(V)和隐藏层(H)。层与层之间是全连接,层内部每个节点互相独立,参数包含(W,a,b)。网络结构比较简单,给定训练数据...
2018-09-18 14:42:28
1053
1
原创 Tensorflow实现Mnist和验证码识别、tensorflow中的交叉熵函数(区分多分类、多目标)
Mnist数字识别data preparationsoftmax regressionconvolutional neural network(cnn)captcha识别data processingsoftmax regressionconvolutional neural network(cnn)tensorflow中的交叉熵函数tf.nn.sigmoid_cross_entr
2017-11-25 16:07:27
2108
原创 论文写作中的一些小问题
Opencv+visual studio2017配置1. 配置系统环境变量设置环境变量(控制面板-系统与安全-系统-高级系统设置-环境变量),添加系统变量。OPENCV3_DIR ;…opencv\build;path;…opencv\build\x64\vc14\bin; 2. vs内新建项目、配置新建空项目,新建项main.cpp,选择debug、x64,解决方案资源管理器项目名右键属
2017-11-10 09:44:10
4280
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人