Tesorflow笔记
YQ8023family
想要变成夏目那样温柔的人呀
展开
-
前向传播和反向传播
前向传播和反向传播1. 前向传播2. 反向传播例程:生产一批零件,将体积X1和重量X2为特征输入NN,通过NN后输出一个数值1. 前向传播前向传播过程用Tensorflow表示前向传播X为1*2的矩阵W(1)W^(1^)W(1)为2*3的矩阵a(1)a^(1^)a(1)为1*3的矩阵1次输入一组特征(该特征包含两个元素:体积和重量)对于第一层的W,...原创 2019-02-15 23:35:28 · 3274 阅读 · 0 评论 -
会话(Session)
@TOC介绍定义:执行计算图中的节点运算语句with tf.Session() as sess: print sess.run(y)利用张量运算来描述import tensorflow as tf x = tf.constant([[1.0, 2.0]]) # 1行2列张量w = tf.constant([[3.0], [4.0]]) # 2行1列张量y...原创 2019-02-14 14:45:42 · 117 阅读 · 0 评论 -
计算图(Graph)
计算图(Graph)介绍介绍定义:搭建神经网络的计算过程,只搭建,不运算神经元的基本模型y=X1∗W1+X2∗W2 y = X1*W1+X2*W2y=X1∗W1+X2∗W2X1 X2W1 W2输入分别为X1到y和 X2到y的权重利用张量运算来描述这个神经元import tensorflow as tf x = tf.constant([[1.0, ...原创 2019-02-14 14:47:02 · 1218 阅读 · 0 评论 -
神经网络的参数(Weight)
定义:即神经元结构线上的权重W,用变量表示,随机给初值如生成随机数:w = tf.Variable(tf.random_normal([2, 3], stddev = 2, mean = 0, seed =1))tf.random_normal()[2, 3]stddev = 2mean = 0seed正态分布生成2*3矩阵标准差为2均值为0随机种子(去...原创 2019-02-14 15:05:05 · 4185 阅读 · 0 评论 -
神经网络(Neural Network, NN)实现过程
训练过程准备数据集,提取特征,作为输入喂给神经网络搭建NN结构,从输入到输出(先搭建计算图,再用会话执行)(NN前向传播算法→计算输出)大量特征数据为给NN,迭代优化NN参数(NN反向传播算法→优化参数训练模型)使用过程4. 使用训练好的模型预测和分类...原创 2019-02-14 15:31:56 · 923 阅读 · 4 评论 -
MNIST 数据集输出手写数字识别准确率——实践
MNIST 数据集输出手写数字识别准确率——实践总体结构分析前向传播过程文件(mnist_forward.py)反向传播过程文件(mnist_backward.py)测试过程文件(mnist_test.py)总体结构分析实现手写体 mnist 数据集的识别任务,共分为三个模块文件,分别是:描述网络结构的前向传播过程文件(mnist_forward.py)描述网络参数优化方法的反向传播 过...原创 2019-02-20 23:34:43 · 2627 阅读 · 0 评论 -
卷积神经网络CNN
卷积神经网络CNN0. 全连接 NN1. 卷积 Convolutional1.1 全零填充 Padding1.1.1 使用 padding 和不使用 padding 的输出维度1.2 Tensorflow 给出的计算卷积的函数1.2 对多通道的图片求卷积1.3 池化 Pooling1.4 舍弃 Dropout1.4 卷积 NN0. 全连接 NN定义:每个神经元与前后相邻层的每一个神经元都有...原创 2019-03-02 16:18:41 · 767 阅读 · 1 评论 -
shape()
>>> import numpy as np>>> a = np.array([1, 2, 3])>>> a.shape(3,)>>> b = np.array([1, 2])>>&a原创 2019-03-07 14:33:30 · 224 阅读 · 0 评论 -
LeNet / LeNet5
import tensorflow as tfIMAGE_SIZE =28NUM_CHANNELS = 1CONV1_SIZE = 5CONV1_KERNEL_NUM = 32CONV2_SIZE = 5CONV1_KERNEL_NUM = 64FC_SIZE = 512OUTPUT_NODE = 10def get_weight(shape, regularizer): ...原创 2019-03-20 15:39:23 · 339 阅读 · 0 评论 -
Win10下用Anaconda安装TensorFlow CPU
Win10下用Anaconda安装TensorFlow CPU1. Anaconda3.7下载与安装2. 在Anaconda3.7下载和安装TensorFlow CPU以及其他软件3. 测试TensorFlow CPU是否成功安装4. jupyter notebook的相关配置参考1. Anaconda3.7下载与安装下载:Anaconda3.7安装:一路默认2. 在Anaco...原创 2019-01-08 09:04:21 · 1482 阅读 · 7 评论 -
tensorflow CPU运行程序出现可加速指令的解决方式
tensorflow CPU运行程序出现不支持warning解决方式原因:电脑包含加速的指令,但在运行代码时未启动这些指令解决方法:屏蔽掉这些warningvim ~/.bashrc # 进入bashrc文件,最后一行加入下面一行export TF_CPU_MIN_LOG_LEVEL=2 # 降低等级,再输入ESC:WQ 退出source ~/.bashrc #...原创 2019-02-14 13:06:03 · 720 阅读 · 0 评论 -
基于Tensorflow神经网络搭建八股
基于Tensorflow神经网络搭建八股概述张量(tensor)概述基于Tensorflow神经网络:张量表示数据,用计算图搭建神经网络,用会话执行计算图,优化线上的权重(参数),得到模型张量(tensor)也叫多维数组(列表)阶:张量的维数维数阶名字例子0-D0标量 scalars = 1 2 31-D0向量 vectorv = [1, 2,...原创 2019-02-16 00:47:42 · 559 阅读 · 2 评论 -
修改vim编辑器方便tensorflow的神经网络中对vim的使用
修改vim编辑器方便tensorflow的神经网络中对vim的使用vim ~/.vimrcset ts = 4 # 使Tab键等效为四个空格set nu 使vim显示行号如import tensorflow as tfa = tf.constant([1.0, 2.0])b = tf.constant([3.0, 4.0])result = a+bprint ("result")...原创 2019-02-14 13:48:43 · 334 阅读 · 0 评论 -
关于Tensorflow模型的保存、加载和预导入
关于Tensorflow模型的保存、加载和预导入1. 什么是Tensorflow模型1.1 元图:1.2 检查点文件:2. 保存Tensorflow模型3. 导入预先训练的模型4. 使用已恢复的模型参考ANKIT SACHAN:A quick complete tutorial to save and restore Tensorflow models1. 什么是Tensorflow模型Te...翻译 2019-02-21 21:26:48 · 471 阅读 · 0 评论 -
神经网络优化(一)
神经网络优化1. 损失函数1.1 神经元模型1.2 激活函数1.3 神经网络的复杂度1.4 神经网路的层数1.5 神经网路待优化的参数1.6 损失函数(loss)1.6.1 均方误差 mse2. 学习率3. 滑动平均4. 正则化5. 神经网络搭建八股1. 损失函数1.1 神经元模型定义:用数学公式表示为:原创 2019-02-17 23:58:13 · 1556 阅读 · 0 评论 -
损失函数和成本函数
参考损失函数(Loss function)是定义在单个训练样本上的,是真实值和预测值的非负值函数。也就是就算一个样本的误差。比如我们想要分类,就是预测的类别和实际类别的区别,是一个样本的,用L表示。代价函数(Cost function)是定义在整个训练集上面的,也就是所有样本的误差的总和的平均,也就是损失函数的总和的平均,有没有这个平均其实不会影响最后的参数的求解结果。注意:定义...转载 2019-02-22 16:15:24 · 2024 阅读 · 0 评论 -
神经网络优化(二)
神经网络优化(二)1. 搭建模块化神经网络八股1.1 前向传播1.2 反向传播1.3 模型优化方法1.3.1 正则化1.3.2 指数衰减学习率1.3.3 滑动平均1.4 用 with 结构初始化所有参数1.5 判断 python 运行文件是否为主文件2. 例程1. 搭建模块化神经网络八股1.1 前向传播定义:由输入到输出,搭建完整的网络结构描述前向传播的过程需要定义三个函数:第...原创 2019-02-17 17:31:00 · 618 阅读 · 0 评论 -
输入手写数字输出识别结果——断点续训
输入手写数字输出识别结果——断点续训关键处理分析ckpt 代码位置关键处理加入 ckpt 操作:ckpt = tf.train.get_checkpoint_state(MODEL_SAVE_PATH) if ckpt and ckpt.model_checkpoint_path: saver.restore(sess, ckpt.model_checkpoint_path)分析...原创 2019-02-27 19:20:14 · 263 阅读 · 0 评论 -
输入手写数字输出识别结果——输入真实图片
输入手写数字输出识别结果——输入真实图片网络输入网络输出关键处理具体代码实践网络输入网络输入:一维数组(784 个像素点)像素点:0-1 之间的浮点数(接近 0 越黑,接近 1 越白)网络输出网络输出:一维数组(十个可能性概率),数组中最大的那个元素所对应的索引号就是预测的结果关键处理def application(): testNum = input("input the...原创 2019-02-27 21:55:28 · 3103 阅读 · 0 评论 -
制作数据集,实现特定应用
制作数据集,实现特定应用1. 数据集生成读取文件(mnist_generateds.py)1.1 tfrecords 文件1.2 生成 tfrecords 文件1.3 解析 tfrecords 文件2. 反向传播文件修改图片标签获取的接口(mnist_backward.py)1. 数据集生成读取文件(mnist_generateds.py)1.1 tfrecords 文件tfrecords...原创 2019-02-28 00:24:42 · 603 阅读 · 0 评论 -
MNIST 数据集输出手写数字识别准确率——介绍
MNIST 数据集输出手写数字识别准确率 1. mnist 数据集2. 需要使用到的函数2.1 read_data_sets():加载 mnist 数据集2.2 mnist.train/validation/test.mun_examples:返回样本数2.3 返回 mnist 数据集标签2.4 train.images[]:返回 mnist 数据集图片像素值2.5 mnist.train.nex...原创 2019-02-18 23:27:34 · 2691 阅读 · 0 评论 -
MNIST 数据集输出手写数字识别准确率——搭建八股
神经网络八股——MNIST 数据集输出手写数字识别准确率1. 前向传播过程(forward.py)2. 反向传播过程(backword.py)3. 正则化、指数衰减学习率、滑动平均方法的设置3.1 正则化3.2 指数衰减学习率3.3 滑动平均4. 测试过程(test.py)神经网络八股包括前向传播过程、反向传播过程、反向传播过程中用到的正则化、指数衰减学习率、滑动平均方法的设置、以及测试模块。...原创 2019-02-20 14:17:11 · 498 阅读 · 0 评论 -
ubuntu下删除env下pip install的spyder
接下来就可以重新安装了原创 2019-07-09 20:59:46 · 1104 阅读 · 0 评论