CC

Make something different!

DenoisingAutoencoder(图像去噪自动编码器)

本文主要介绍使用TensorFlow实现DenoisingAutoencoder(图像去噪自动编码器)。 下面是示例代码: # 导入相关模块 import numpy as np import sys import tensorflow as tf import matplotlib.pyp...

2018-12-25 12:58:32

阅读数 321

评论数 0

AlexNet学习

AlexNet将LeNet的思想发扬光大,把CNN的基本原理应用到了很深很宽的网络中。AlexNet主要使用到的新技术点如下: (1)成功使用ReLU作为CNN的激活函数,并验证其效果在较深的网络超过了Sigmoid,成功解决了Sigmoid在网络较深时的梯度弥散问题。虽然ReLU激活函数在很久之...

2018-10-25 15:22:36

阅读数 101

评论数 0

TensorFlow实战(四)

手写数字识别训练过程中修改识别率: import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data # 载入数据集 mnist = input_data.read_data_sets('MN...

2018-07-26 17:13:32

阅读数 113

评论数 0

TensorFlow实战(三)

优化器(Optimizer) 标准梯度下降法:计算所有样本汇总误差,然后根据总误差来更新权值(数据量太大时,更新权值可能比较慢) 随机梯度下降法:抽取一个样本来计算误差,然后随机更新权值(可能会引入噪声,权值更新的方向可能不是好的方向) 批量梯度下降法:从总样本中选取一个批次,然后计算这个b...

2018-07-26 16:50:39

阅读数 148

评论数 0

TensorFlow实战(二)

一般出现过拟合的情况,网络结构太复杂或者数据量太小 防止过拟合的方法: 正则化方法:加到cost function中C0,通过权值改变cost,参数对输入值影响不大的,可以丢弃掉。 dropout:训练的时候每次迭代过程中然部分神经元不起作用,测试的时候所有神经元都用上。 示例代码: ...

2018-07-25 16:21:30

阅读数 308

评论数 1

TensorFlow实战(一)

简单示例: # encoding:utf-8 import tensorflow as tf import numpy as np # 使用numpy生成随机点 x_data = np.random.rand(100) y_data = x_data * 0.1 + 0.2 # 构造一个线...

2018-07-24 09:32:17

阅读数 149

评论数 0

TensorFlow 迁移学习(transfering learning)

本篇博客主要介绍TensorFlow中的迁移学习(transfering learning)。 节约计算资源,在训练好的模型的基础上扩展内容,充分利用原模型的理解力。(迁移前的数据和迁移后的数据相似或相关) 接下来介绍在tensorflow中将VGG16对动物的识别迁移到识别动物的长度。 数...

2018-07-20 16:09:08

阅读数 471

评论数 4

TensorFlow可视化梯度下降/公式调参

本篇博客主要介绍TensorFlow中的可视化梯度下降和参数调参。 首先是可视化梯度下降,使用的是python中Axes3d模块。 示例代码: import tensorflow as tf import numpy as np import matplotlib.pyplot as pl...

2018-07-20 15:45:46

阅读数 810

评论数 0

TensorFlow批标准化(Batch Normalization)

 本篇博客主要介绍深度学习中批标准化(batch normalization),是将分散的数据统一的一种方法, batch normalization被添加在全连接层和激活函数之间 经过和未经过batch normalization的数据经过激活函数的输入输出区别 batch...

2018-07-20 13:58:39

阅读数 333

评论数 0

TensorFlow中的name_scope和variable_scope

本篇博客主要介绍TensorFlow中的name_scope和variable_scope。 name_scope示例代码: import tensorflow as tf with tf.name_scope('scope1'): initializer = tf.consta...

2018-07-18 14:31:16

阅读数 91

评论数 0

TensorFlow实现LSTM(回归)

最近在学习TensorFlow,并学习了在TensorFlow中实现LSTM的回归应用。下面是示例代码:import tensorflow as tf import numpy as np import matplotlib.pyplot as plt BATCH_START = 0 TIME...

2018-07-16 15:52:08

阅读数 2778

评论数 0

TensorFlow实现LSTM(分类)

最近在学习TensorFlow,学习了使用TensorFlow来实现LSTM(长短时记忆),并学习了LSTM在分类方面的示例。即应用TensorFlow实现LSTM,对 MNIST 数据集进行分类。下面是示例代码:#encoding:utf-8 import tensorflow as tf fr...

2018-07-16 15:45:37

阅读数 1258

评论数 0

深度学习学习笔记

1、深层网络与浅层网络比较: 深层网络表达能力更强,且更节约资源,但训练更难。 2、 感知器规则迭代的修改和,直到训练完成。 是与输入对应的权重项,是偏置项。事实上,可以把看作是值永远为1的输入所对应的权重。是训练样本的实际值,一般称之为label。而是感知器的输出值,它是根据公式(1)...

2018-07-14 18:13:06

阅读数 77

评论数 0

TensorFlow保存和加载模型

本篇博客主要介绍tensorflow中如何保存和加载模型。保存模型:from __future__ import print_function import tensorflow as tf import numpy as np # Save to file # remember to defi...

2018-07-10 16:35:03

阅读数 90

评论数 0

TensorFlow实现CNN网络对手写数字进行识别

本篇博客介绍通过TensorFlow实现CNN网络对手写数字进行识别,下面是具体的实现代码:注:数据集下载等问题可以参考另一篇博客:TensorFlow MNIST数据集手写数字识别(并解决MNIST数据集下载问题)# encoding:utf-8 import tensorflow as tf ...

2018-07-10 16:12:24

阅读数 85

评论数 0

TensorFlow利用dropout解决过拟合问题

        在TensorFlow训练样本的数据中,有时会出现过拟合(overfiting)的问题,可以采取dropout的方法来解决,即随机丢弃部分样本。        下面是示例代码,通过tensorboard对结果进行了可视化:        import tensorflow as t...

2018-07-10 14:39:24

阅读数 184

评论数 0

TensorFlow MNIST数据集手写数字识别(并解决MNIST数据集下载问题)

本篇博客主要介绍通过TensorFlow实现MNIST数据集的手写数字识别。准备数据:首先需要获取数据,可以通过以下代码进行获取:from tensorflow.examples.tutorials.mnist import input_data # 获取数据,number 1 to 10 mni...

2018-07-09 15:31:29

阅读数 1091

评论数 1

Tensorboard实现神经网络的可视化

 本篇博客介绍使用Tensorboard实现神经网络的可视化,首先是实现可视化的代码: # encoding:utf-8 import tensorflow as tf # 添加层 def add_layer(inputs, in_size, out_size, activation_f...

2018-07-07 11:31:36

阅读数 346

评论数 0

matplotlib实现TensorFlow训练过程的可视化

本篇博客介绍使用matplotlib实现TensorFlow训练过程的可视化,下面是代码: # encoding:utf-8 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt # 添加层 ...

2018-07-07 10:03:51

阅读数 414

评论数 0

TensorFlow搭建简单的神经网络

本篇博客主要介绍使用TensorFlow来搭建简单的神经网络,需要用到python中TensorFlow和numpy模块,下面是示例代码。 # encoding:utf-8 import tensorflow as tf import numpy as np # 添加层 def add_l...

2018-07-07 09:48:51

阅读数 78

评论数 0

提示
确定要删除当前文章?
取消 删除
关闭
关闭