- 博客(27)
- 收藏
- 关注
RSS订阅原创 Tensorflow实战-经典卷积神经网络
4种经典的卷积神经网络，AlexNet（8），VGGNet（19），Google Inception net（22），ResNet（152）。AlexNet：Trick：ReLu， Dropout，LPN，gpu加速 显示每一个卷积层或者池化层输出tensor的尺寸#显示名称和尺寸print(t.op.name, ' ', t.get_shape().as_list())...
2018-03-31 13:59:20
341
原创 tensorflow-LSTM源码
推荐：https://blog.csdn.net/guolindonggld/article/details/79273992class LSTMCell(RNNCell): """Long short-term memory unit (LSTM) recurrent network cell. The default non-peephole implementation i...
2018-03-30 15:21:36
967
原创 Tensorflow实战-实现基于LSTM的语言模型
RNN的核心思想： 对RNN输入数据xtxtx_t，然后通过网络计算并得到输出结果hthth_t，再将某些信息（state，状态）传到网络的输入。 LSTM可以存储状态，并依靠状态对当前的输入进行处理分析和预测。 传统RNN编码不了long-term dependecies，间隔太远的输入信息，RNN难以记忆。 LSTM单元上面的那条直线代表了LSTM的状态state，它会贯穿所有串联在一...
2018-03-30 15:20:27
624
原创 Tensorflow实战-经典卷积神经网络
4种经典的卷积神经网络，AlexNet（8），VGGNet（19），Google Inception net（22），ResNet（152）。AlexNet：Trick：ReLu， Dropout，LPN，gpu加速 显示每一个卷积层或者池化层输出tensor的尺寸#显示名称和尺寸print(t.op.name, ' ', t.get_shape().as_list())...
2018-03-30 15:20:11
223
原创 Tensorflow实战-自编码器
本节代码来自tensorflow的开源实现。 实现自编码器和实现一个单隐含层的神经网络差不多，只不过是在数据输入时做了标准化，并加上了一个高斯噪声，同时输出结果不是数字分类结果，而是复原的数据。 对于没有标注的数据，可以使用无监督的自编码器来提取特征，使用自身的高阶特征编码自己。可以使用自编码器对数据进行降维。自编码器的输入节点和输出节点的数量是一致的。 如果限制中间隐含层节点的数量，如让其...
2018-03-30 15:19:48
317
原创 Tensorflow实战-卷积神经网络
1.防止dead neuron 因为ReLU的原因，所以要避免dead neuron和0梯度。对权重使用截断的正态分布噪声，对偏置增加一些小的正值。# weightinitail = tf.truncated_nomal(shape, stddev = 0.1)# biasinitial = tf.constant(0.1, shape=shape)2.2维卷积函数 卷积核的...
2018-03-30 15:19:32
471
原创 TensorFlow实战-多层感知机
# 创建一个Tensorflow默认的Interactive Session，这样后面执行各项操作就无须指定Session了sess = tf.InteractiveSession()因为模型使用ReLU，所以需要使用正态分布给参数加一点噪声，来打破完全对称并且避免0梯度。在其他一些模型中，有时还需要给偏置附上一些小的非零值来避免dead neuron。# 将权重初始化为截断的正态分...
2018-03-30 15:19:14
213
原创 Tensorflow实战-minist
只是对Softmax Regression识别手写数字的简单总结，详情请看tenforflow源码。sess = tf.InteractiveSession()#使用这个命令会把这个session注册为默认的session，之后的运算也默认跑在这个session中，不同session之间的数据和运算应该都是相互独立的。使用Variable是用来存储模型参数的，不同于存储数据的tens...
2018-03-30 15:18:52
277
原创 tensorflow-LSTM讲解blog
https://blog.csdn.net/xiaocong1990/article/details/72403806 https://blog.csdn.net/u014595019/article/details/52759104 https://blog.csdn.net/guolindonggld/article/details/79273992 https://blog.csdn....
2018-03-30 06:52:31
321
原创 ROLO实验
要求Tensorflow 版本是0.11.0https://github.com/Guanghan/ROLO/Getting Started 1. Download Data and Pre-trained Models 2. Run Demo Reproduce the results with the pre-trained modelpython experimen...
2018-03-30 06:50:47
1556
6
原创 模型的存储与加载
tensorflow： 有两种方式存储和加载模型。 ①生成checkpoint file，扩展名为.ckpt，通过在tf.train.Saver对象上调用Saver.save()生成。包含权重和变量，但不包括图的结构。如果需要在另一个程序中使用，需要重新创建图形结构，并告诉Tesorflow如何处理这些权重。 模型存储：# 保存变量，位于tf.train.Saver()后的变量将不会...
2018-03-27 09:03:44
1825
原创 ROLO:Spatially Supervised Recurrent Convolutional Neural Networks for Visual Object Tracking
来源：ArXiv：1607.05781v1 Jul 2016 Abstract： 本文研发了一种可以进行空间监督的循环卷积网络用以object tracking。该网络利用位置的历史信息和由神经网络学习到的特征。受bbox的影响，研究LSTM在temporal domain的回归能力，并且建议连接由卷积网络产生的高层次的视觉特征with region information。本文特色是回归，使...
2018-03-24 15:07:23
2216
原创 Spatially Supervised Recurrent Convolutional Neural Networks for Visual Object Tracking
贡献点： 1.探索LSTM对高级视觉特征的解释和回归能力。 2.神经网络分析被扩展到时空域，以进行有效的视觉对象跟踪。 方法： 1.YOLO用于收集丰富和强大的视觉特征，以及初步的位置推断。 2.LSTM用于在视频帧中回归对象的位置。 一些细节信息： 进入LSTM的有两个数据流， 其一包括：（来自卷积层的信息和来自全连接层的信息） 1.来自卷积层的特征表示，例如来自VGG的全连接...
2018-03-22 16:48:35
419
2
原创 理解Yolo 的网络参数
终端参数推荐：http://blog.csdn.net/dcrmg/article/details/78565440 训练log中各参数的意义 Region Avg IOU：平均的IOU，代表预测的bounding box和ground truth的交集与并集之比，期望该值趋近于1。 Class:是标注物体的概率，期望该值趋近于1. Obj：期望该值趋近于1. No Obj:期望...
2018-03-22 15:32:21
1763
原创 重新训练YOLO v2
推荐： http://blog.csdn.net/u014540717/article/details/53424843 http://blog.csdn.net/hysteric314/article/details/54097845 http://blog.csdn.net/eloise_29/article/details/70215338 Training YOLO v2 on P...
2018-03-21 16:40:23
1453
5
原创 第5章 Logistic回归 项目
Logistic回归是用来做分类的。 核心：根据现有数据对分类边界线(Decision Boundary)建立回归公式，以此进行分类。 项目案例: 使用 Logistic 回归在简单数据集上的分类 开发流程： 收集数据: 文本文件.txt中的数据 准备数据: 由于需要进行距离计算，因此要求数据类型为数值型。另外，结构化数据格式则最佳 分析数据: 画出决策边界def plotBest...
2018-03-20 21:33:43
213
原创 为什么数据都要做一个归一化预处理
神经网络学习过程本质就是为了学习数据分布,一旦训练数据与测试数据的分布不同,那么网络的泛化能力也大大降低;另外一方面，一旦每批训练数据的分布各不相同(batch 梯度下降),那么网络就要在每次迭代都去学习适应不同的分布,这样将会大大降低网络的训练速度。 YOLOv2网络通过在每一个卷积层后添加batch normalization，极大的改善了收敛速度同时减少了对其它regularization...
2018-03-20 19:47:20
2533
1
原创 第3章 决策树项目
推荐：https://zhuanlan.zhihu.com/p/30051638决策树（Decision Tree）算法主要用来处理分类问题。当然了，还可以用于回归的问题。 决策树 须知： 熵（entropy）指的是体系的混乱的程度，是信息的期望值。 信息熵（香农熵）： 是一种信息的度量方式，表示信息的混乱程度，也就是说：信息越有序，信息熵越低。 信息增益： 在划分数据集...
2018-03-19 22:03:44
314
原创 第2章 k-近邻项目
推荐：https://zhuanlan.zhihu.com/p/30051322k-近邻（kNN, k-NearestNeighbor）算法主要是用来进行分类的，如划分电影的题材类型：动作片 和 爱情片 。 KNN 工作原理假设有一个带有标签的样本数据集（训练样本集），其中包含每条数据与所属分类的对应关系。输入没有标签的新数据后，将新数据的每个特征与样本集中数据对应的特征进行...
2018-03-19 20:48:43
208
原创 第1章 机器学习基础
推荐：https://zhuanlan.zhihu.com/p/30051176非监督学习： 数据没有类别信息，也不会给定目标值。 聚类：在无监督学习中，将数据集分成由类似的对象组成多个类的过程称为聚类。 密度估计：将寻找描述数据统计值的过程称之为密度估计。【就是：根据训练样本确定x的概率分布】 无监督学习还可以减少数据特征的维度，以便我们可以使用二维或三维图形更加直观地展示数据信息。...
2018-03-19 19:27:12
169
原创 YOLO9000:Better, Faster, Stronger
推荐： http://blog.csdn.net/qq_14845119/article/details/53589282 https://zhuanlan.zhihu.com/p/25052190 https://zhuanlan.zhihu.com/p/25167153?utm_source=wechat_session&utm_medium=social Abstract ...
2018-03-19 18:58:22
307
原创 Deep SORT: Simple Online and Realtime Tracking with a Deep Association Metric
Baseline：SORT SORT：简单有效 Deep SORT：增加了deep外观。解决的问题是：长期遮挡和降低IDS（45%）。计算的复杂度主要在离线pre-training阶段。该方法具有高帧率的效果（20HZ）。做法： ①离线阶段：在大尺度的行人重识别数据集上学到a deep association metric。 ②在线应用阶段：建立从测量到跟踪（measurement-to-...
2018-03-17 17:52:00
4014
原创 深度学习工程师的4个档次
LEVEL1：能读懂论文这是一个最最基本的层次了，如果没办法读懂论文的话，任何工作几乎都谈不到开展。市面上的任何书籍，不论是中文的还是外文的，都在讲原理层面的事情，要想看着这些书籍来直接做项目是非常困难的事情。而对于拿到一个工程需求的时候，不论这是一个分解完的需求还是一个分解前的粗需求，第一步几乎都是要到网上去找文献——看看目前为止，世界上其它的人有没有涉足过这方面的研究，并且有一些理论成果出...
2018-03-03 13:39:56
582
原创 Caffe 常见错误及解决方法
可以先用make -j8 && make pycaffe来查看目前有啥问题 问题1： /usr/bin/ld: cannot find -lopencv_imgcodecs /usr/bin/ld: cannot find -lopencv_videoio collect2: error: ld returned 1 exit status Makefile:566: r...
2018-03-02 22:08:26
13830
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人