深度学习TensorFlow框架

深度学习介绍

深度学习和机器学习区别

机器有人工参与，而深度学习是靠网络；

深度学习需要大量的数据集，训练神经网络需要大量的算力

机器学习有：朴素贝叶斯，决策树等

深度学习主要是神经网络

深度学习应用场景

CV：物体识别，场景识别，车型认识，人脸检测跟踪，人脸关键点跟踪，人脸身份认证

NPL：机器翻译 文本识别 聊天对话

语音技术：语音识别

TensorFlow框架的使用

结构

各个组件

 图

什么是图结构

图结构就是数据（Tensor）加操作（operation）

2 图相关操作

new_g = tf.Graph()

with new_g.as_default();

用TensorBoard:可视化学习

1.

2启动

OP

操作函数

tf.constant(Tensor对象)   Const

tf.add(Tensor1,Tensor2)        Add对象

指令名称

会话

开启会话的俩种方式：

#         tf.Session：用于完整的程序当中
#         tf.InteractiveSession：用于交互式上下文中的TensorFlow ，例如shell
#         1）会话掌握资源，用完要回收 - 上下文管理器
#         2）初始化会话对象时的参数
#             graph=None
#             target：如果将此参数留空（默认设置），
#             会话将仅使用本地计算机中的设备。
#             可以指定 grpc:// 网址，以便指定 TensorFlow 服务器的地址，
#             这使得会话可以访问该服务器控制的计算机上的所有设备。
#             config：此参数允许您指定一个 tf.ConfigProto
#             以便控制会话的行为。例如，ConfigProto协议用于打印设备使用信息
#         3)run(fetches,feed_dict=None)
#         3 feed操作
#             a = tf.placeholder(tf.float32, shape=)
#             b = tf.placeholder(tf.float32, shape=)

张量

两个属性：type 和shape

 #    张量Tensor
#     print()
#     ndarray  # 张量值的类型 当在会话中返回的类型
#     2.4.1 张量(Tensor)
#         张量 在计算机当中如何存储？
#         标量 一个数字                 0阶张量
#         向量 一维数组 [2, 3, 4]       1阶张量
#         矩阵 二维数组 [[2, 3, 4],     2阶张量
#                     [2, 3, 4]]
#         ……
#         张量 n维数组                  n阶张量
#         1 张量的类型
#         2 张量的阶
#         创建张量的时候，如果不指定类型
#         默认 tf.float32
#             整型 tf.int32
#             浮点型 tf.float32

#         张量(Tensor)
#         张量 在计算机当中如何存储？
#         标量 一个数字                 0阶张量
#         向量 一维数组 [2, 3, 4]       1阶张量
#         矩阵 二维数组 [[2, 3, 4],     2阶张量
#                     [2, 3, 4]]
#         ……
#         张量 n维数组                  n阶张量
#         1 张量的类型
#         2 张量的阶
#         创建张量的时候，如果不指定类型
#         默认 tf.float32
#             整型 tf.int32
#             浮点型 tf.float32
#     2.4.2 创建张量的指令
#     2.4.3 张量的变换
#         ndarray属性的修改
#             类型的修改
#                 1）ndarray.astype(type)
#                 tf.cast(tensor, dtype)
#                     不会改变原始的tensor
#                     返回新的改变类型后的tensor
#                 2）ndarray.tostring()
#             形状的修改
#                 1）ndarray.reshape(shape)
#                     -1 自动计算形状
#                 2）ndarray.resize(shape)
#                 静态形状 - 初始创建张量时的形状
#                 1）如何改变静态形状
#                     什么情况下才可以改变/更新静态形状？
#                         只有在形状没有完全固定下来的情况下
#                     tensor.set_shape(shape)
#                 2）如何改变动态形状
#                     tf.reshape(tensor, shape)
#                     不会改变原始的tensor
#                     返回新的改变形状后的tensor
#                     动态创建新张量时，张量的元素个数必须匹配

变量

创建变量

def variable_demo():
    """
    变量的演示
    :return:
    """
    # 创建变量
    with tf.variable_scope("my_scope"):
        a = tf.Variable(initial_value=50)
        b = tf.Variable(initial_value=40)
    with tf.variable_scope("your_scope"):
        c = tf.add(a, b)
    print("a:\n", a)
    print("b:\n", b)
    print("c:\n", c)

    # 初始化变量
    init = tf.global_variables_initializer()

    # 开启会话
    with tf.Session() as sess:
        # 运行初始化
        sess.run(init)
        a_value, b_value, c_value = sess.run([a, b, c])
        print("a_value:\n", a_value)
        print("b_value:\n", b_value)
        print("c_value:\n", c_value)

    return None

#     TensorFlow - 变量
#     存储模型参数
#     1 创建变量
#         变量需要显式初始化，才能运行值
#     2 使用tf.variable_scope()修改变量的命名空间
#         使得结构更加清晰

API

通过TensorFlow官方文档去看

线性回归案例（用TensorFlow）

7.1 线性回归原理复习
    1）构建模型
        y = w1x1 + w2x2 + …… + wnxn + b
    2）构造损失函数
        均方误差
    3）优化损失
        梯度下降
7.2 案例：实现线性回归的训练
    准备真实数据
        100样本
        x 特征值 形状 (100, 1)
        y_true 目标值 (100, 1)
        y_true = 0.8x + 0.7
    假定x 和 y 之间的关系 满足
        y = kx + b
        k ≈ 0.8 b ≈ 0.7
        流程分析：
        (100, 1) * (1, 1) = (100, 1)
        y_predict = x * weights(1, 1) + bias(1, 1)
        1）构建模型
        y_predict = tf.matmul(x, weights) + bias
        2）构造损失函数
        error = tf.reduce_mean(tf.square(y_predict - y_true))
        3）优化损失
        optimizer = tf.train.GradientDescentOptimizer(learning_rate=0.01).minimize(error)
        5 学习率的设置、步数的设置与梯度爆炸
7.3 增加其他功能
    1 增加变量显示
        1）创建事件文件
        2）收集变量
        3）合并变量
        4）每次迭代运行一次合并变量
        5）每次迭代将summary对象写入事件文件
    2 增加命名空间
    3 模型的保存与加载
        saver = tf.train.Saver(var_list=None,max_to_keep=5)
        1）实例化Saver
        2）保存
            saver.save(sess, path)
        3）加载
            saver.restore(sess, path)
    4 命令行参数使用
        1）tf.app.flags
        tf.app.flags.DEFINE_integer("max_step", 0, "训练模型的步数")
        tf.app.flags.DEFINE_string("model_dir", " ", "模型保存的路径+模型名字")
        2）FLAGS = tf.app.flags.FLAGS
        通过FLAGS.max_step调用命令行中传过来的参数
        3、通过tf.app.run()启动main(argv)函数

总结