tensorflow

最新推荐文章于 2021-08-04 10:13:52 发布
最新推荐文章于 2021-08-04 10:13:52 发布
阅读量260 收藏 2
点赞数 3
分类专栏： 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39581188/article/details/81870450
版权

1、一个线性规划的例子

import tensorflow as tf
import numpy as np

x_data=np.random.rand(100).astype(np.float32)
y_data=x_data*0.1+0.3

####创建tensorflow结构
W=tf.Variable(tf.random_uniform([1],-1.0,1.0))
b=tf.Variable(tf.zeros([1]))

y=W*x_data+b

loss=tf.reduce_mean(tf.square(y-y_data))
optimizer=tf.train.GradientDescentOptimizer(0.5) #参数是学习率

train=optimizer.minimize(loss)
init=tf.initialize_all_variables()#初始化变量
####tensorflow结构

sess=tf.Session()
sess.run(init) #激活神经网络

for step in range(201):
    sess.run(train)
    if step%20==0:
        print(step,sess.run(W),sess.run(b))

2、session会话控制

import tensorflow as tf
import numpy as np

matrix1=tf.constant([[3,3],
                     [2,3]])
matrix2=tf.constant([[2],
                     [2]])
product=tf.matmul(matrix1,matrix2)

#method 1
sess=tf.Session()
result=sess.run(product)
print(result)
sess.close()  #关闭session

#method 2
with tf.Session() as sess:  #用完之后不用关闭session
    result2=sess.run(product)
    print(result2)

3、variable变量

import tensorflow as tf
import numpy as np

state=tf.Variable(0)
one=tf.constant(1)
tmp=tf.add(state,one)
update=tf.assign(state,tmp)#state<-tmp

init=tf.global_variables_initializer() #初始化，定义了tf变量都要初始化

with tf.Session()as sess:
    sess.run(init)
    for _ in range(3):
        sess.run(update)
        result=sess.run(state)
        print(result)

4、placeholder传入值

input1=tf.placeholder(tf.float32)#参数是type即tf处理的数据形式 第二个参数可以是结构比如【2,2】
input2=tf.placeholder(tf.float32)

output=tf.multiply(input1,input2)

with tf.Session()as sess:
    print(sess.run(output,feed_dict={input1:[2],input2:[1]}))

5、def add_layer()添加层

def add_layer(inputs,in_size,out_size,activation_function=None):
    W=tf.Variable(tf.random_normal([in_size,out_size]))
    b=tf.Variable(tf.zeros([1,out_size])+0.1)
    Wx_plus_b=tf.matmul(inputs,W)+b
    if activation_function is None:
        outputs=Wx_plus_b
    else:
        outputs=activation_function(Wx_plus_b)
    return outputs


6、建造神经网络

######数据准备
x_data=np.linspace(-1,1,300)[:,np.newaxis]#把1*300转化为300*1
noise=np.random.normal(0,0.05,x_data.shape)
y_data=np.square(x_data)-0.5+noise #y=x^2-0.5

xs=tf.placeholder(tf.float32,[None,1])
ys=tf.placeholder(tf.float32,[None,1])
######神经网络结构
hl=add_layer(xs,1,10,activation_function=tf.nn.relu) #隐藏层 1->10
prediction=add_layer(hl,10,1,activation_function=None)#输出层 10->1

loss=tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),
                                  reduction_indices=[1]))
train_step=tf.train.GradientDescentOptimizer(0.1).minimize(loss)

init=tf.global_variables_initializer()

sess=tf.Session()
sess.run(init)

######开始学习
fig=plt.figure()
ax=fig.add_subplot(1,1,1)
ax.scatter(x_data,y_data)
plt.ion()#show之后不暂停
plt.show()

for i in range(1000):
    sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
    if i%50:
        #print(sess.run(loss,feed_dict={xs:x_data,ys:y_data}))
        try:
            ax.lines.remove(lines[0])
        except Exception:
            pass
        prediction_value=sess.run(prediction,feed_dict={xs:x_data,ys:y_data})
        lines=ax.plot(x_data,prediction_value,'r-',lw=5)
        plt.pause(0.1)

7、tensorflow可视化

with tf.name_scope('loss'):

writer=tf.summary.FileWriter("logs/",sess.graph)

def add_layer(inputs,in_size,out_size,n_layer,activation_function=None):
    layer_name='layer%s'%n_layer
    with tf.name_scope(layer_name):
        with tf.name_scope('W'):
            W=tf.Variable(tf.random_normal([in_size,out_size]),name='W')
            tf.summary.histogram(layer_name+'/W',W)
   with tf.name_scope('loss'):
    loss=tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),
                             reduction_indices=[1]))
    tf.summary.scalar('loss',loss)

sess=tf.Session()
merged=tf.summary.merge_all()
writer=tf.summary.FileWriter("logs/",sess.graph)
sess.run(init)

for i in range(1000):
    sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
    if i%50==0:
        result=sess.run(merged,feed_dict={xs:x_data,ys:y_data})
        writer.add_summary(result,i)

8、tensorflow分类

from tensorflow.examples.tutorials.mnist import input_data

mnist=input_data.read_data_sets('MNIST_data',one_hot=True)

######计算准确度
def compute_accuracy(v_xs,v_ys):
    global prediction
    y_pre=sess.run(prediction,feed_dict={xs:v_xs})
    correct_prediction=tf.equal(tf.argmax(y_pre,1),tf.argmax(v_ys,1))
    accuracy=tf.reduce_mean(tf.cast(correct_prediction,tf.float32))
    result=sess.run(accuracy,feed_dict={xs:v_xs,ys:v_ys})
    return result

######数据准备
xs=tf.placeholder(tf.float32,[None,784])#28*28
ys=tf.placeholder(tf.float32,[None,10])

######神经网络结构
prediction=add_layer(xs,784,10,activation_function=tf.nn.softmax)#softmax做分类用

cross_entropy=tf.reduce_mean(-tf.reduce_sum(ys*tf.log(prediction),
                             reduction_indices=[1]))#交叉熵损失函数
train_step=tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

#########开始训练
for i in range(1000):
    batch_xs,batch_ys=mnist.train.next_batch(100)#每一步训练100个图片
    sess.run(train_step,feed_dict={xs:batch_xs,ys:batch_ys})
    if i%50==0:#计算准确度
        print(compute_accuracy(
            mnist.test.images,mnist.test.labels))

9、CNN

import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data
#######load data
mnist=input_data.read_data_sets('MNIST_data',one_hot=True)

######计算准确度
def compute_accuracy(v_xs,v_ys):
    global prediction
    y_pre=sess.run(prediction,feed_dict={xs:v_xs,keep_prob:1})
    correct_prediction=tf.equal(tf.argmax(y_pre,1),tf.argmax(v_ys,1))
    accuracy=tf.reduce_mean(tf.cast(correct_prediction,tf.float32))
    result=sess.run(accuracy,feed_dict={xs:v_xs,ys:v_ys,keep_prob:1})
    return result

def w_variable(shape):
    initial=tf.truncated_normal(shape,stddev=0.1)
    return tf.Variable(initial)

def b_variable(shape):
    initial=tf.constant(0.1,shape=shape)
    return tf.Variable(initial)

def conv2d(x,W):
    #strides[1,x_movement,y_movement,1]
    #must have strides[0]=strides[3]=1
    return tf.nn.conv2d(x,W,strides=[1,1,1,1],padding='SAME')

def max_pool_2x2(x):
    return tf.nn.max_pool(x,ksize=[1,2,2,1],strides=[1,2,2,1],padding='SAME')
    
######数据准备
keep_prob=tf.placeholder(tf.float32)
xs=tf.placeholder(tf.float32,[None,784])
ys=tf.placeholder(tf.float32,[None,10])
x_image=tf.reshape(xs,[-1,28,28,1])
print(x_image.shape)#[n_samples,28,28,1]

#############神经网络结构##########
####卷积层1
W_conv1=w_variable([5,5,1,32])#patch 5*5 insize 1输入的厚度  outsize:32
b_conv1=b_variable([32])
h_conv1=tf.nn.relu(conv2d(x_image,W_conv1)+b_conv1)#outputsize:28*28*32
h_pool1=max_pool_2x2(h_conv1)#outputsize:14*14*32
####卷积层2
W_conv2=w_variable([5,5,32,64])#patch 5*5 insize 32输入的厚度  outsize:64
b_conv2=b_variable([64])
h_conv2=tf.nn.relu(conv2d(h_pool1,W_conv2)+b_conv2)#outputsize:14*14*64
h_pool2=max_pool_2x2(h_conv2)#outputsize:7*7*64
#####func1 layer
w_fc1=w_variable([7*7*64,1024])
b_fc1=b_variable([1024])
h_pool2_flat=tf.reshape(h_pool2,[-1,7*7*64])#[n_samples,7,7,64]->[n_samples,7*7*64]
h_fc1=tf.nn.relu(tf.matmul(h_pool2_flat,w_fc1)+b_fc1)
h_fc1_drop=tf.nn.dropout(h_fc1,keep_prob)
#####func2 layer
w_fc2=w_variable([1024,10])
b_fc2=b_variable([10])
prediction=tf.nn.softmax(tf.matmul(h_fc1_drop,w_fc2)+b_fc2)
##############神经网络结构##########
cross_entropy=tf.reduce_mean(-tf.reduce_sum(ys*tf.log(prediction),
                             reduction_indices=[1]))#交叉熵损失函数
train_step=tf.train.AdamOptimizer(1e-4).minimize(cross_entropy)

init=tf.global_variables_initializer()
sess=tf.Session()
sess.run(init)
#########开始训练
for i in range(1000):
    batch_xs,batch_ys=mnist.train.next_batch(70)#每一步训练100个图片
    sess.run(train_step,feed_dict={xs:batch_xs,ys:batch_ys,keep_prob:0.5})
    if i%50==0:#计算准确度
            print(compute_accuracy(
                mnist.test.images,mnist.test.labels))

10、saver读取

写入

W=tf.Variable([[1,2,3],[4,5,6]],dtype=tf.float32,name='weight')
b=tf.Variable([[1,2,3]],dtype=tf.float32,name='biases')

init=tf.global_variables_initializer()
saver=tf.train.Saver()
with tf.Session() as sess:
    sess.run(init)
    save_path=saver.save(sess,"my_net/save_net.ckpt")

读取 要定义同样大小和同样的类型

W=tf.Variable(np.arange(6).reshape((2,3)),dtype=tf.float32,name='weight')
b=tf.Variable(np.arange(3).reshape((1,3)),dtype=tf.float32,name='biases')

saver=tf.train.Saver()
with tf.Session() as sess:
    saver.restore(sess,"my_net/save_net.ckpt")
    print("weight:",sess.run(W))
    print("biases:",sess.run(b))

11、RNN

import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data
#######load data
mnist=input_data.read_data_sets('MNIST_data',one_hot=True)

#hyperparameters
lr=0.001
training_iters=100000
batch_size=128

n_inputs=28 #mnist data input(image shape:28*28)
n_steps=28  #time steps
n_hidden_units=128 #neurons in hidden layer
n_classes=10  #mnist classed(0-9digits)

#tf graph input
x=tf.placeholder(tf.float32,[None,n_steps,n_inputs])
y=tf.placeholder(tf.float32,[None,n_classes])

#difine weights
weights={
    #(28,128)
    'in':tf.Variable(tf.random_normal([n_inputs,n_hidden_units])),
    #(128,10)
    'out':tf.Variable(tf.random_normal([n_hidden_units,n_classes]))
}
biases={
    #(128,)
    'in':tf.Variable(tf.constant(0.1,shape=[n_hidden_units,])),
    #(10,)
    'out':tf.Variable(tf.constant(0.1,shape=[n_classes,]))
}

def RNN(X,weights,biases):
    ##hidden layer for input
    X=tf.reshape(X,[-1,n_inputs])#X(128,28,28)->(128*28,28)
    X_in=tf.matmul(X,weights['in'])+biases['in'] #(128*28,128)
    X_in=tf.reshape(X_in,[-1,n_steps,n_hidden_units])#(128*28,128)->(128,28,128)
    
    ##cell
    lstm_cell=tf.nn.rnn_cell.BasicLSTMCell(n_hidden_units,forget_bias=1.0,state_is_tuple=True)
    _init_state=lstm_cell.zero_state(batch_size,dtype=tf.float32) #(c_state,m_state)
    outputs,states=tf.nn.dynamic_rnn(lstm_cell,X_in,initial_state=_init_state,time_major=False)
    
    ##hidden layer for output
    results=tf.matmul(states[1],weights['out'])+biases['out']
 
    return results

pred=RNN(x,weights,biases)
cost=tf.reduce_sum(tf.nn.softmax_cross_entropy_with_logits(logits=pred,labels=y))
train_op=tf.train.AdamOptimizer(lr).minimize(cost)

 
correct_pred=tf.equal(tf.argmax(pred,1),tf.argmax(y,1))
accuracy=tf.reduce_mean(tf.cast(correct_pred,tf.float32))

init=tf.global_variables_initializer()

with tf.Session() as sess:
    sess.run(init)
    step=0
    while step*batch_size<training_iters:
        batch_xs,batch_ys=mnist.train.next_batch(batch_size)
        batch_xs=batch_xs.reshape([batch_size,n_steps,n_inputs])
        sess.run([train_op],feed_dict={
            x:batch_xs,
            y:batch_ys,
        })
        if step%20==0:
            print(sess.run(accuracy,feed_dict={
            x:batch_xs,
            y:batch_ys,
            }))
        step+=1


 

 


        
 

孙盼的博客
关注
  • 3
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Tensorflow搭建一个神经网络
AI_girl的博客
05-13 2228
一、Tensorlow结构 import tensorflow as tf import numpy as np #创建数据 x_data = np.random.rand(100).astype(np.float32) y_data = x_data*0.1+0.3 #创建一个 tensorlow 结构 weights = tf.Variable(tf.random_uniform([1], -1.0, 1.0))#一维，范围[-1,1] biases = tf.Variable(tf.zeros
tensorflow.contrib安装
04-02
TensorFlow.contrib 安装指南 TensorFlow.contrib 是 TensorFlow 的一个子项目，提供了一些高级的功能和工具。然而，在 TensorFlow 2.0 中，contrib 模块已经被弃用。因此，安装 TensorFlow.contrib 并不是一个简单...
Python学习之np.random.normal()函数
huanhuan_Coder的博客
06-21 7万+
这是的np是numpy包的缩写，np.random.normal()的意思是一个正态分布，normal这里是正态的意思。 我在看孪生网络的时候看到这样的一个例子：numpy.random.normal(loc=0,scale=1e-2,size=shape) ，意义如下： 参数loc(float)：正态分布的均值，对应着这个分布的中心。loc=0说明这一个以Y轴为对称轴的正态分布， 参数s...
从np.random.normal()到正态分布的拟合
热门推荐
12-03 15万+
先看伟大的高斯分布（Gaussian Distribution）的概率密度函数（probability density function）：f(x)=12π−−√σexp(−(x−μ)22σ2)f(x)=\frac1{\sqrt{2\pi}\sigma}\exp(-\frac{(x-\mu)^2}{2\sigma^2})对应于numpy中：numpy.random.normal(loc=0.0, s
LSTM Keras下的代码解读
WX_Chen的博客
09-08 1万+
可以参考 官方文档 https://keras.io/   首先， model = Sequential() 是给神经网络起了头，后面的model.add()是一直加层。   model.add(Activation('relu')) 这个激活函数（Activation）keras提供了很多备选的，我这儿用的是ReLU这个，其他还有 tanh sigmoid hard_sig...
tf.random_normal()和numpy.random.normal()区别
pcy1127918的博客
07-29 4924
在学习莫烦tensorflow途中，经常用numpy下的random下的normal代替random_normal，因为不太清楚区别，就出错了， 举例： x_data=npy.linspace(-1.0,1.0,300)[:,npy.newaxis] noise=npy.random.normal(0,0.05,x_data.shape) #noise=tf.random_normal(x_...
TensorFlow
07-23
关于t上面的资源适合于tensorflow的初学者，简要的介绍了神经网络
TensorFlow教材
12-29
TensorFlow教材 TensorFlow是Google开发的开源软件库，用于进行机器学习和深度神经网络研究。 TensorFlow的核心是使用数据流图进行数值计算，节点代表数学运算，而图中的边则代表在这些节点之间传递的多维数组...
TensorFLOW
09-16
tensorflow论文相关资料方便查询tensorflow应用相关内容。
Tensorflow
01-23
Tensorflow是目前深度学习领域常用的开发框架之一，但对于初学者而言最难的是如何学着其框架内的函数，本文档详细介绍了Tensorflow的内部函数
tensorflow源码
04-06
tensorflow源码，google深度学习开源框架，资源分怎么设置不了零分。。
tensorflow2中文教程
05-07
tensorflow2_tutorials_chinese tensorflow2中文教程，持续更新（不定期更新） tensorflow 2.0 正式版已上线， 后面将持续根据TensorFlow2的相关教程和学习资料。 最新tensorflow教程和相关资源，请关注微信公众号...
tensorflow1.15 whl安装文件
08-12
tensorflow1.15 whl安装文件
TensorFlow Examples
最新发布
05-28
TensorFlow Examples
np.random.normal()正态分布
qiqiaiairen的博客
09-11 3万+
高斯分布的概率密度函数                numpy中 numpy.random.normal(loc=0.0, scale=1.0, size=None)参数的意义为： loc:float 概率分布的均值，对应着整个分布的中心center scale:float 概率分布的标准差，对应于分布的宽度，scale越大越矮胖，scale越小，越瘦高 size:int
python中的np.random.normal
越努力越幸运越幸福
03-12 2万+
一先看伟大的高斯分布（Gaussian Distribution）的概率密度函数（probability density function）： Gaussian Distribution(Normal Distribution)其图形特点为中间高，两头低，是钟形曲线(bell-shaped curve)。在高斯分布中，以数学期望μ表示钟型的中心位置（也即曲线的位置），而标准差（standard d
tf.random_uniform()函数
郁金香
08-04 5923
tf.random_uniform()：用于从均匀分布中输出随机值。 def random_uniform(shape, minval=0, maxval=None, dtype=dtypes.float32, seed=None, name=None): shape： 张量形状 minval： 随机值范围下限
使用Tensorboard查看训练过程
fu18946764506的博客
04-11 1660
import tensorflow as tf import numpy as np #输入数据 x_data = np.linspace(-1,1,300)[:, np.newaxis] noise = np.random.normal(0,0.05, x_data.shape) y_data = np.square(x_data)-0.5+noise #输入层 with tf.name_...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值