TensorFlow
文章平均质量分 91
zd_njupt
这个作者很懒,什么都没留下…
展开
-
优化之——滑动平均模型
滑动平均模型可以使模型在测试数据上更加健壮。仅用于测试数据。shadow_variable = decay*shadow_variable+(1-decay)*variabledecay为衰减率, variable为待更新的变量。decay=min(decay_base,(1+global_step)/(10+global_step))decay越大模型越稳定,一般设置为0.999,,原创 2018-01-05 22:33:11 · 921 阅读 · 0 评论 -
优化之——正则化
为了避免过拟合问题,常用的方法为正则化,在损失函数中加入刻画模型复杂度的指标.J = J(theta)+a*R(w)L1正则化:R(w)=||w||=sum(|w|)L2正则化:R(w)=||w||^2 = sum(|w|^2)思想为通过限制权重大小,使得模型不能任意拟合训练数据中的随机噪音。L1正则化会让参数变得更稀疏,即更多参数为0L2正则化则不会。L1正则化公式不可导。L2正则化原创 2018-01-05 22:13:26 · 792 阅读 · 0 评论 -
优化之——学习率的设置
先用较大的学习率来加速得到较优解,随着迭代的继续逐步减小学习率,使得模型在训练后期更加稳定。decayed_learning_rate = learning_rate*decay_rate^(global_step/decay_step)learning_rate为设定的初始学习率decay_rate为衰减系数global_step已训练次数decay_step为使用一遍训练数据需要迭代原创 2018-01-05 21:53:06 · 2124 阅读 · 0 评论 -
tf.nn.sparse_softmax_cross_entropy_with_logits
**def sparse_softmax_cross_entropy_with_logits(_sentinel=None, # pylint: disable=invalid-name labels=None,logits=None,name=None):** labels是非稀疏的,例如稀疏矩阵为 [[ 1. 0. 0.] [ 0. 1. 0.] [ 0. 0. 1.]原创 2018-01-05 21:23:33 · 382 阅读 · 0 评论 -
tensorflow学习笔记(四):mnist
使用 TensorFlow, 你必须明白 TensorFlow: 使用图 (graph) 来表示计算任务. 在被称之为 会话 (Session) 的上下文 (context) 中执行图. 使用 tensor 表示数据. 通过 变量 (Variable) 维护状态. 使用 feed 和 fetch 可以为任意的操作(arbitrary operatio原创 2017-05-01 13:30:06 · 429 阅读 · 0 评论 -
tensorflow学习笔记(五):cnn
import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_dataimport osimport timeos.environ['TF_CPP_MIN_LOG_LEVEL'] = '3'start = time.time()mnist = input_data.read_data_sets('MN原创 2017-08-23 16:48:40 · 338 阅读 · 0 评论 -
tensorflow学习笔记(一):tensorflow安装
1.安装ubuntu 2.安装python 2.7 2.1:安装python-pip和python-dev sudo apt-get install python-pip python-dev 2.2:安装tensorflowsudo pip install --upgrade https://storage.googleapis.com/tensorflow/linux/cpu/t原创 2017-04-30 20:22:09 · 412 阅读 · 0 评论 -
tensorflow学习笔记(三):tensorflow 基础知识
常量:a = tf.constant(1)b = tf.constant(2)执行时须在Session中。# coding:utf-8import numpy as npimport tensorflow as tfa = tf.constant(1)b = tf.constant(2)c = a+bd = tf.add(a,b)e = a*bf = tf.mul(a,b)with原创 2017-05-04 20:24:31 · 388 阅读 · 0 评论 -
tensorflow学习笔记(二):windows10_64 tensorflow-gpu cuda
安装python3.5以上版本 目前Tensorflow只支持64位python3.5以上版本安装tensorflow pip3 install –upgrade tensorflow-gpu 目前最新版本为tensorflow-gpu1.3.0安装CUDA 8.0 和 cuDNN 可以去官网下载cuda8.0,貌似8.0.60版本安装会出现不匹配现象,建议安装8.0.44版本。 te原创 2017-08-23 16:27:57 · 4608 阅读 · 0 评论 -
tensorflow学习笔记(六):cnn过程可视化
import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_dataimport osimport matplotlib.pyplot as pltos.environ['TF_CPP_MIN_LOG_LEVEL'] = '3'mnist = input_data.read_data_sets('M原创 2017-08-23 16:51:10 · 3590 阅读 · 4 评论 -
tensorflow学习笔记(七):tensorboard可视化
import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_dataimport osimport timeos.environ['TF_CPP_MIN_LOG_LEVEL'] = '3'start = time.time()mnist = input_data.read_data_sets('MN原创 2017-08-30 10:04:03 · 317 阅读 · 0 评论 -
tensorflow学习笔记(八):模型持久化 saver and restore
接着上一篇写。 把上一篇的模型进行保存,并调用下。import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_dataimport matplotlib.pyplot as pltfrom PIL import Imageimport cv2img = cv2.imread("d:\\11.p原创 2017-08-30 10:26:26 · 462 阅读 · 0 评论 -
tensorfolw运行中出现warn警告,禁止打印方法
2017-07-25 10:40:29.051142: W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn’t compiled to use SSE4.1 instructions, but these are available on your machine and could spee原创 2017-07-25 10:44:26 · 6522 阅读 · 0 评论 -
Ubuntu16.04+1080Ti+Tensorflow-gpu1.6安装过程
步骤一:显卡驱动安装1.系统设置-》软件和更新-》Ubuntu软件-》下载自:主服务器2.系统设置-》软件和更新-》附加驱动-》NVDIA Corporation选择第一个:使用NVDIA binary driver-version ……3.点击应用更改4.重启 输入nvidia-smi可以看到显卡信息步骤二:安装CUDA9.01.去官网下载CUDA9.0,我使用的是:cuda_9.0...原创 2019-01-08 13:03:58 · 315 阅读 · 0 评论