4.1TensorFlow编程模型

最新推荐文章于 2022-04-25 21:49:27 发布
最新推荐文章于 2022-04-25 21:49:27 发布
阅读量140 收藏
点赞数 1
分类专栏： 深度学习之TensorFlow入门、原理与进阶实战

4.1 使用sessions编写hello world：
程序：

import tensorflow as tf
hello = tf.constant('Hello, TensorFlow!')  #定义一个常量
sess = tf.Session()                             #建立一个session
print (sess.run(hello))                        #通过session里面的run来运行结果
sess.close()                                     #关闭session

结果：
在这里插入图片描述
4.2 with session的使用
程序：

import tensorflow as tf
a = tf.constant(3)                     #定义常量3
b = tf.constant(4)                     #定义常量4
with tf.Session() as sess:           #建立session
    print ("相加: %i" % sess.run(a+b))
    print( "相乘: %i" % sess.run(a*b))

结果：
在这里插入图片描述
4.3 演示注入机制：
定义占位符，使用feed机制将具体数值3,4通过占位符传入，并进行相加和相乘。
程序：

import tensorflow as tf
a = tf.placeholder(tf.int16)
b = tf.placeholder(tf.int16)
add = tf.add(a, b)
mul = tf.multiply(a, b)                      #a与b相乘
with tf.Session() as sess:
    # Run every operation with variable input
    print ("相加: %i" % sess.run(add, feed_dict={a: 3, b: 4}))
    print ("相乘: %i" % sess.run(mul, feed_dict={a: 3, b: 4}))

结果：
在这里插入图片描述
4.4 线性回归模型保存及载入：
程序：

   import tensorflow as tf
    import numpy as np
    import matplotlib.pyplot as plt
    
    plotdata = {"batchsize": [], "loss": []}
    
    
    def moving_average(a, w=10):
        if len(a) < w:
            return a[:]
        return [val if idx < w else sum(a[(idx - w):idx]) / w for idx, val in enumerate(a)]


# 生成模拟数据
train_X = np.linspace(-1, 1, 100)
train_Y = 2 * train_X + np.random.randn(*train_X.shape) * 0.3  # y=2x，但是加入了噪声
# 图形显示
plt.plot(train_X, train_Y, 'ro', label='Original data')
plt.legend()
plt.show()

tf.reset_default_graph()

# 创建模型
# 占位符
X = tf.placeholder("float")
Y = tf.placeholder("float")
# 模型参数
W = tf.Variable(tf.random_normal([1]), name="weight")
b = tf.Variable(tf.zeros([1]), name="bias")
# 前向结构
z = tf.multiply(X, W) + b

# 反向优化
cost = tf.reduce_mean(tf.square(Y - z))
learning_rate = 0.01
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)  # Gradient descent

# 初始化变量
init = tf.global_variables_initializer()
# 参数设置
training_epochs = 20
display_step = 2
saver = tf.train.Saver()  # 生成saver
savedir = "F:/shendu/000" #生成模型的路径
# 启动session
with tf.Session() as sess:
    sess.run(init)


    # 添加session中的训练代码 Fit all training data
    for epoch in range(training_epochs):
        for (x, y) in zip(train_X, train_Y):
            sess.run(optimizer, feed_dict={X: x, Y: y})

        # 显示训练中的详细信息
        if epoch % display_step == 0:
            loss = sess.run(cost, feed_dict={X: train_X, Y: train_Y})
            print("Epoch:", epoch + 1, "cost=", loss, "W=", sess.run(W), "b=", sess.run(b))
            if not (loss == "NA"):
                plotdata["batchsize"].append(epoch)
                plotdata["loss"].append(loss)


    print(" Finished!")
    saver.save(sess, savedir + "linermodel.cpkt")#保存模型
    print("cost=", sess.run(cost, feed_dict={X: train_X, Y: train_Y}), "W=", sess.run(W), "b=", sess.run(b))
    # print ("cost:",cost.eval({X: train_X, Y: train_Y}))

    # 图形显示
    plt.plot(train_X, train_Y, 'ro', label='Original data')
    plt.plot(train_X, sess.run(W) * train_X + sess.run(b), label='Fitted line')
    plt.legend()
    plt.show()

    plotdata["avgloss"] = moving_average(plotdata["loss"])
    plt.figure(1)
    plt.subplot(211)
    plt.plot(plotdata["batchsize"], plotdata["avgloss"], 'b--')
    plt.xlabel('Minibatch number')
    plt.ylabel('Loss')
    plt.title('Minibatch run vs. Training loss')

    plt.show()

# 重启一个session

with tf.Session() as sess2:
    sess2.run(tf.global_variables_initializer())#初始化模型
    saver.restore(sess2, savedir + "linermodel.cpkt")
    print("x=0.2，z=", sess2.run(z, feed_dict={X: 0.2}))
4.5 模型内容
#打印模型内容：
程序：
import tensorflow as tf
from tensorflow.python.tools.inspect_checkpoint import print_tensors_in_checkpoint_file
savedir = "F:/shendu/000"
print_tensors_in_checkpoint_file(savedir+"linermodel.cpkt", None, True)

结果：

tensor_name:  bias
[0.08573835]
tensor_name:  weight
[1.986465]

#将w和b分别指定一个固定值，并将它们颠倒放置
程序;

import tensorflow as tf
from tensorflow.python.tools.inspect_checkpoint import print_tensors_in_checkpoint_file
savedir = "F:/shendu/000"
print_tensors_in_checkpoint_file(savedir+"linermodel.cpkt", None, True)

W = tf.Variable(1.0, name="weight")
b = tf.Variable(2.0, name="bias")

# 放到一个字典里:
saver = tf.train.Saver({'weight': b, 'bias': W})

with tf.Session() as sess:
    tf.global_variables_initializer().run()
    saver.save(sess, savedir+"linermodel.cpkt")

print_tensors_in_checkpoint_file(savedir+"linermodel.cpkt", None, True)

结果：

tensor_name:  bias
1.0
tensor_name:  weight
2.0

4.6保存检查点
#程序：

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

plotdata = {"batchsize": [], "loss": []}


def moving_average(a, w=10):
    if len(a) < w:
        return a[:]
    return [val if idx < w else sum(a[(idx - w):idx]) / w for idx, val in enumerate(a)]

# 生成模拟数据
train_X = np.linspace(-1, 1, 100)
train_Y = 2 * train_X + np.random.randn(*train_X.shape) * 0.3  # y=2x，但是加入了噪声
# 图形显示
plt.plot(train_X, train_Y, 'ro', label='Original data')
plt.legend()
plt.show()

tf.reset_default_graph()

# 创建模型
# 占位符
X = tf.placeholder("float")
Y = tf.placeholder("float")
# 模型参数
W = tf.Variable(tf.random_normal([1]), name="weight")
b = tf.Variable(tf.zeros([1]), name="bias")
# 前向结构
z = tf.multiply(X, W) + b

# 反向优化
cost = tf.reduce_mean(tf.square(Y - z))
learning_rate = 0.01
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)  # Gradient descent

# 初始化变量
init = tf.global_variables_initializer()
# 参数设置
training_epochs = 20
display_step = 2
saver = tf.train.Saver(max_to_keep=1)  # 生成saver
savedir = "F:/shendu/111"
# 启动session
with tf.Session() as sess:
    sess.run(init)

    # Fit all training data
    for epoch in range(training_epochs):
        for (x, y) in zip(train_X, train_Y):
            sess.run(optimizer, feed_dict={X: x, Y: y})

        # 显示训练中的详细信息
        if epoch % display_step == 0:
            loss = sess.run(cost, feed_dict={X: train_X, Y: train_Y})
            print("Epoch:", epoch + 1, "cost=", loss, "W=", sess.run(W), "b=", sess.run(b))
            if not (loss == "NA"):
                plotdata["batchsize"].append(epoch)
                plotdata["loss"].append(loss)
            saver.save(sess, savedir + "linermodel.cpkt", global_step=epoch)

    print(" Finished!")

    print("cost=", sess.run(cost, feed_dict={X: train_X, Y: train_Y}), "W=", sess.run(W), "b=", sess.run(b))
    # print ("cost:",cost.eval({X: train_X, Y: train_Y}))

    # 图形显示
    plt.plot(train_X, train_Y, 'ro', label='Original data')
    plt.plot(train_X, sess.run(W) * train_X + sess.run(b), label='Fitted line')
    plt.legend()
    plt.show()

    plotdata["avgloss"] = moving_average(plotdata["loss"])
    plt.figure(1)
    plt.subplot(211)
    plt.plot(plotdata["batchsize"], plotdata["avgloss"], 'b--')
    plt.xlabel('Minibatch number')
    plt.ylabel('Loss')
    plt.title('Minibatch run vs. Training loss')

    plt.show()

# 重启一个session
load_epoch = 18
with tf.Session() as sess2:
    sess2.run(tf.global_variables_initializer())
    saver.restore(sess2, savedir + "linermodel.cpkt-" + str(load_epoch))
    print("x=0.2，z=", sess2.run(z, feed_dict={X: 0.2}))

with tf.Session() as sess3:
    sess3.run(tf.global_variables_initializer())
    ckpt = tf.train.get_checkpoint_state(savedir)
    if ckpt and ckpt.model_checkpoint_path:
        saver.restore(sess3, ckpt.model_checkpoint_path)
        print("x=0.2，z=", sess3.run(z, feed_dict={X: 0.2}))

with tf.Session() as sess4:
    sess4.run(tf.global_variables_initializer())
    kpt = tf.train.latest_checkpoint(savedir)
    if kpt != None:
        saver.restore(sess4, kpt)
        print("x=0.2，z=", sess4.run(z, feed_dict={X: 0.2}))

结果：

Epoch: 1 cost= 1.4073209 W= [0.24966796] b= [0.5030684]
Epoch: 3 cost= 0.17785853 W= [1.5477322] b= [0.15313277]
 
Epoch: 5 cost= 0.079329684 W= [1.8994919] b= [0.02064049]
Epoch: 7 cost= 0.07323916 W= [1.9907178] b= [-0.01432499]
Epoch: 9 cost= 0.07298315 W= [2.01431] b= [-0.02337763]
Epoch: 11 cost= 0.07300522 W= [2.0204103] b= [-0.02571867]
Epoch: 13 cost= 0.07301682 W= [2.021988] b= [-0.02632416]
Epoch: 15 cost= 0.07302022 W= [2.0223956] b= [-0.02648057]
Epoch: 17 cost= 0.073021114 W= [2.0225003] b= [-0.02652072]
Epoch: 19 cost= 0.07302137 W= [2.0225282] b= [-0.02653147]
 Finished!
cost= 0.07302142 W= [2.0225341] b= [-0.02653361]

x=0.2，z= [0.37797418]

4.7 使用MonitoredTrainingSession函数自动管理检查点文件
程序：

import tensorflow as tf
tf.reset_default_graph()
global_step = tf.train.get_or_create_global_step()
step = tf.assign_add(global_step, 1)

with tf.train.MonitoredTrainingSession(checkpoint_dir='log/checkpoints',save_checkpoint_secs  = 2) as sess:
    print(sess.run([global_step]))
    while not sess.should_stop():#启用死循环，当sess不结束时就不停止
        i = sess.run( step)
        print( i)

4.8线性回归的TensorBoard可视化
通过TensorBoard观察训练过程
程序：
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

print("TensorFlow 版本: {}".format(tf.VERSION))
plotdata = {"batchsize": [], "loss": []}


def moving_average(a, w=10):
    if len(a) < w:
        return a[:]
    return [val if idx < w else sum(a[(idx - w):idx]) / w for idx, val in enumerate(a)]


# 生成模拟数据
train_X = np.linspace(-1, 1, 100)
train_Y = 2 * train_X + np.random.randn(*train_X.shape) * 0.3  # y=2x，但是加入了噪声
# 图形显示
plt.plot(train_X, train_Y, 'ro', label='Original data')
plt.legend()
plt.show()

tf.reset_default_graph()

# 创建模型
# 占位符
X = tf.placeholder("float")
Y = tf.placeholder("float")
# 模型参数
W = tf.Variable(tf.random_normal([1]), name="weight")
b = tf.Variable(tf.zeros([1]), name="bias")

# 前向结构
z = tf.multiply(X, W) + b
tf.summary.histogram('z', z)  # 将预测值以直方图显示
# 反向优化
cost = tf.reduce_mean(tf.square(Y - z))
tf.summary.scalar('loss_function', cost)  # 将损失以标量显示
learning_rate = 0.01
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)  # Gradient descent

# 初始化变量
init = tf.global_variables_initializer()
# 参数设置
training_epochs = 20
display_step = 2

# 启动session
with tf.Session() as sess:
    sess.run(init)

    merged_summary_op = tf.summary.merge_all()  # 合并所有summary
    # 创建summary_writer，用于写文件
    summary_writer = tf.summary.FileWriter('F:/shendu/mnist_with_summaries', sess.graph)

    # Fit all training data
    for epoch in range(training_epochs):
        for (x, y) in zip(train_X, train_Y):
            sess.run(optimizer, feed_dict={X: x, Y: y})

            # 生成summary
            summary_str = sess.run(merged_summary_op, feed_dict={X: x, Y: y});
            summary_writer.add_summary(summary_str, epoch);  # 将summary 写入文件

        # 显示训练中的详细信息
        if epoch % display_step == 0:
            loss = sess.run(cost, feed_dict={X: train_X, Y: train_Y})
            print("Epoch:", epoch + 1, "cost=", loss, "W=", sess.run(W), "b=", sess.run(b))
            if not (loss == "NA"):
                plotdata["batchsize"].append(epoch)
                plotdata["loss"].append(loss)

    print(" Finished!")
    print("cost=", sess.run(cost, feed_dict={X: train_X, Y: train_Y}), "W=", sess.run(W), "b=", sess.run(b))
    # print ("cost:",cost.eval({X: train_X, Y: train_Y}))

    # 图形显示
    plt.plot(train_X, train_Y, 'ro', label='Original data')
    plt.plot(train_X, sess.run(W) * train_X + sess.run(b), label='Fitted line')
    plt.legend()
    plt.show()

    plotdata["avgloss"] = moving_average(plotdata["loss"])
    plt.figure(1)
    plt.subplot(211)
    plt.plot(plotdata["batchsize"], plotdata["avgloss"], 'b--')
    plt.xlabel('Minibatch number')
    plt.ylabel('Loss')
    plt.title('Minibatch run vs. Training loss')

    plt.show()

    print("x=0.2，z=", sess.run(z, feed_dict={X: 0.2}))

结果：

TensorFlow 版本: 1.13.1

Epoch: 1 cost= 1.3197309 W= [0.34877086] b= [0.49700525]
Epoch: 3 cost= 0.18035989 W= [1.5924916] b= [0.16364832]
Epoch: 5 cost= 0.08659153 W= [1.9297352] b= [0.03665461]
Epoch: 7 cost= 0.08016183 W= [2.0171988] b= [0.00313166]
Epoch: 9 cost= 0.079711564 W= [2.0398188] b= [-0.00554797]
Epoch: 11 cost= 0.07967628 W= [2.0456674] b= [-0.00779231]
Epoch: 13 cost= 0.07967259 W= [2.0471792] b= [-0.00837264]
Epoch: 15 cost= 0.07967199 W= [2.0475702] b= [-0.00852263]
Epoch: 17 cost= 0.07967186 W= [2.0476708] b= [-0.00856123]
Epoch: 19 cost= 0.07967183 W= [2.0476975] b= [-0.00857138]
 Finished!
cost= 0.07967182 W= [2.0477023] b= [-0.00857328]
x=0.2，z= [0.4009672]

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

大春SSC
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Tensorflow 4 （Inception-v3）
niuniu0243111006的博客
04-18 153
tensorflow inception-v3
TensorFlow之Tensor(4)
weixin_30300225的博客
09-29 324
Tensor（张量） 张量的维度（秩）：Rank/Order 维度值 名称 维度值 名称 0 标量 3 3阶张量 1 向量 ... ... 2 矩阵 N N阶张量 Tensor的属性： A. 数据类型 dtype 例如：tf.float32,tf.int8/16/32,tf.uint8/16,t...
深度学习之TensorFlow实战4
leva的博客
08-05 504
这一节我们来讲讲TensorFlow可视化 TensorFlow提供了一套可视化工具：TensorBoard，在通过pip安装TensorFlow的情况下，默认也会安装TensorBoard。通过TensorBoard可以展示TensorFlow的图像、绘制图像生成的定量指标以及附加数据等信息。 TensorBoard通过读取TensorFlow的事件文件来运行，TensorFlow的事件文件包括了在TensorFlow运行中涉及到的主要数据，比如：scalar、image、audio、histogram
面向机器智能的TensorFlow实战4：机器学习基础
Just for fun的专栏
05-25 504
代码 https://github.com/backstopmedia/tensorflowbook.git1、监督学习简介数据流图的高层、通用训练闭环：一种常用的方法是将原始数据集一分为二，将70%的样本用于训练，30%用于评估。2、保存训练检查点   防止突然断电3、 线性回归   目标是找到一个与这些数据最为吻合的线性函数   y(x1, x2, ... , xk) = w1*x1 + w2...
TensorFlow框架4：卷积神经网络
景墨轩
04-06 292
1、概念 神经网络(neural networks)的基本组成包括输入层、隐藏层、输出层。而卷积神经网络的特点在于隐藏层分为卷积层和池化层 (pooling layer，又叫下采样层)。 卷积层：通过在原始图像上平移来提取特征，每一个特征就是一个特征映射 池化层：通过特征后稀疏参数来减少学习的参数，降低网络的复杂度，（最大池化和平均池化） 2、函数介绍 tf.nn.conv2d(input, ...
VS2019+python3.7+opencv4.1+tensorflow1.13配置详解
01-20
Visual Studio作为宇宙最强IDE，目前已更新到...其中，最重要的是DNN模块支持更多来自tensorflow的网络模型（ Faster-RCN, SSD, Mask-RCNN ,YOLO)，相信未来OpenCV+Tensorflow技术路线肯定会被更多的开发者采用。 要
tensorflow.zip
07-02
这些基本概念构成了TensorFlow编程的基础。 1.2 安装与环境配置：讲解如何在不同操作系统上安装TensorFlow库，以及如何配置Python环境，确保顺利运行TensorFlow程序。 二、TensorFlow操作 2.1 数据类型与张量：...
tensorflow入门到实战 世界大厂专家讲解gg讲师
07-15
4.1 变量（Variable）：可变状态，常用于模型参数。 4.2 操作（Operation）：计算图中的节点，执行计算任务。 4.3 图（Graph）：一组操作的集合，定义了计算流程。 4.4 节点（Node）：操作的实例，连接形成计算路径...
tensorflow-zh-master.zip
10-12
2.1 Python基础：TensorFlow主要基于Python接口，因此熟悉Python编程是必要的。 2.2 安装TensorFlow：可以通过pip命令在Python环境中安装TensorFlow，同时支持GPU版本以加速计算。 2.3 Jupyter Notebook与TensorFlow...
TensorFlow-2.x-Tutorials-master.zip
11-29
TensorFlow 2.x提供了模型保存和恢复的功能，可以保存模型的结构和权重。 5.2. 模型迁移学习 已训练好的模型可以作为新模型的基础，通过微调或只训练部分层，实现迁移学习。 六、分布式训练 6.1. 多GPU训练 利用...
tensorflow学习4 --Tensorflow的本身相关及其编程【张量、正态分布的初始化和初等变换】
我是谁我在哪我在学什么
04-25 2141
小知识
tensorflow（4）---常用函数
bester_man的博客
10-24 1926
上篇文章写了如何生成张量，以及如何将numpy数组转化为tensorflow中tensor，这篇文章我们主要研究tensorflow中常用的一些函数 （1）转换数据类型 # 常用函数 # 强制tensor转换为改数据类型 tf.cast(张量名,dtype=数据类型) # 计算张量维度上元素最小值最大值tf.reduce_min(张量名) tf.reduce_max(张量名) x1 = tf.constant([1.,2.,3.],dtype=tf.float64) print(x1) x2 =
Tensorflow学习记录4
RonnyChan的博客
03-12 144
""" What is placeholder? 把变量先hold在类型中，到sess时再feed数据 """ import tensorflow as tf input1 = tf.placeholder(tf.float32) # 给定一个float32类型的placeholder input2 = tf.placeholder(tf.float32) output = tf.mul...
TensorFlow-4 实现多层感知机
Suan2014的博客
08-15 603
1 TensorFlow搭建网络的步骤 （1）定义公式，也就是forward时的计算； （2）定义loss，选定优化器，并指定优化器优化loss （3）迭代地对数据进行训练； （4）在测试集上或验证集上对准确率进行评测。 2 设置 数据：Mnist数据 网络：1个隐含层，隐含层节点数300（200--1000范围内的结果差别不大）。     W1的初始化参数为截断的正太分布，其标准
tensorflow(4)-保存与可视化
qq_27163197的博客
11-08 367
API
TensorFlow4-常量和变量及TensorBoard使用
weixin_38383877的博客
05-14 248
Tensorflow学习——4 手写体识别代码的继续研究
不想做咸鱼的咸鱼的专栏
08-24 285
下面这个代码结构就比较清晰了 # _*_ encoding=utf8 _*_ import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data # minst数据集相关的常数 INPUT_NODE = 784 # 输入层的节点数，等于minst数据集，这个就等于图片的像素 OUTP...
tensorflow4 代价函数、dropout、优化器
weixin_40485502的博客
06-26 185
这次扔使用上次的mnist数据集分类的简单版本程序，使用不同的代价函数做计算 二次代价函数 激活函数 使用二次代价函数的运行结果 # 使用二次代价函数的结果-精度 # loss=tf.reduce_mean(tf.square(y-prediction)) # 0.8322 # 0.8698 # 0.8818 # 0.8882 # 0.8935 # 0.8965 # 0.8999 # 0....
tensorflow4:创建一个简单的强化学习游戏
a18852867035的博客
07-31 5821
Deep Q Network是DeepMind最早(2013年)提出来的，是深度强化学习方法。最开始AI什么也不会，通过给它提供游戏界面像素和分数，慢慢把它训练成游戏高手。这里首先给出一个基本的游戏例子，然后再给出强化学习方法。 1.基本游戏#coding=utf-8 import pygame from pygame.locals import * import sys BLACK =(0,0,
《MongoDB实战》第2版-第4章-电商网站开发实战1
最新发布
08-03
- 章节中构建了一个基础的电商数据模型，涵盖了商品、类别、用户、订单和商品评价等关键实体。通过实例展示，读者可以学习如何将这些实体组织成文档形式，以便于MongoDB的数据存储和查询。 3. **数据库、集合与...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值