- 博客(6)
- 收藏
- 关注
原创 浅谈学习率与初始化对网络的影响
一、构建一个简单的神经网络神经网络的两个重要超参数W,和learning_rate的设置对网络的好坏有重要的影响,合理的设置超参数是很重要的,下面通过简单的实验来看看是怎么影响网络的。二、学习率的设置from tensorflow.examples.tutorials.mnist import input_data import tensorflow as tf import matplotlib...
2017-12-17 21:52:50 4550
原创 简单的卷积神经网络
一、建立一个简单的卷积神经网络如上图所示,一个简单的卷积神经网络由卷积层,池化层,激活层,全连接层组成。设计一个好的卷积神经网络不是简单的事情,包括卷积核大小的选择,比如1,3,5,7等几个常用的大小,还有卷积核的个数的选择,比如1,2,4,16,32等等,还有就是全连接层的激活函数的选择等。下面我们就来简单看看卷积核个数和激活函数的选择。二、卷积核个数的选择from tensorflow.exa...
2017-12-17 19:59:05 1674
原创 tensorflow实现AlexNet
一、AlexNet构架的介绍AlexNet有5个卷积层和3个全连接层,发现移除任意一层都会降低最终的效果。网络结构如图:1. 基本结构a. 共有8层,其中前5层convolutional,后边3层full-connected,最后的一个full-connected层的output是具有1000个输出的softmax,最后的优化目标是最大化平均的multinomiallogistic regress...
2017-12-16 09:06:07 555
原创 Tensorflow中的优化器子类
tensorflow中包含几个优化算法,今天就具体看一下这些算法。GradientDescentOptimizer ,AdagradOptimizer ,MomentumOptimizer ,AdamOptimizer ,RMSPropOptimizer。1.GradientDescent梯度下降法是一种最优化问题求解的算法。有批量梯度和随机梯度两种不同的迭代思路。他们有以下的差异:批量梯度收敛速...
2017-12-14 20:59:22 681
原创 tensorflow实现线性分类之MNIST
一、MNIST数据集简介 MNIST 数据集可在 http://yann.lecun.com/exdb/mnist/ 获取, 它包含了四个部分: 1.Training set images: train-images-idx3-ubyte.gz (9.9 MB, 解压后 47 MB, 包含 60,000 个样本) 2.Training set labels: train...
2017-12-11 21:57:26 1095
原创 用Tensorflow实现简单的KNN
一、KNN算法的概念邻近算法,或者说K最近邻(kNN,k-NearestNeighbor)分类算法是数据挖掘分类技术中最简单的方法之一。所谓K最近邻,就是k个最近的邻居的意思,说的是每个样本都可以用它最接近的k个邻居来代表。 简单来说,K-NN可以看成:有那么一堆你已经知道分类的数据,然后当一个新数据进入的时候,就开始跟训练数据 里的每个点求距离,然后挑离这个训练数据...
2017-12-08 11:19:39 2912 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人