batch size 训练时间_[TensorFlow] 如何构建模型使得训练和测试阶段batch_size可变化...

309e47630ee80784574e2c1afc0d880d.png

原因分析

实现的关键在于:

  • 模型构建过程中任何操作都是基于不知道batch_size下构建的。因为一旦某个图构建操作基于batch_size就会导致,meta graph中会写死固化张量某个维度为batch_size
  • 测试的时候,batch_size大小不能变,因为batch_size不是一个placeholder,而直接写死固化在图模型中,作为图中操作的超参数(关键是超参数的数据类型,int、float、unit tensor)

实现方式

  • 最笨的方式:测试时再次构建一次图,然后只加载训练时保存的参数
    • 劣势:每次测试都需要在构建一次图模型
  • tf.placeholder():将batch_size设置为placeholder,因为tensorflow中几乎所有函数的参数都支持“0-D tensor”,如果参数的数据类型不是tensor,源码中都会使用tf.convert_to_tensor()
    • 劣势:模型每次训练或者测试都必须提供placeholder值
  • tf.shape(tf.Tensor):该方法可以获得张量的动态形状,而且不用每一次都输入batch_size的placeholder,直接根据input来推算
    • 注意:不要使用t
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在神经网络训练完成后,我们可以使用模型对新的输入数据进行预测。以下是使用 TensorFlow 进行简单神经网络训练和测试的示例代码: ```python import tensorflow as tf # 定义输入数据 x = tf.placeholder(tf.float32, [None, input_size]) # 定义模型参数 W = tf.Variable(tf.zeros([input_size, num_classes])) b = tf.Variable(tf.zeros([num_classes])) # 定义模型 y = tf.nn.softmax(tf.matmul(x, W) + b) # 定义损失函数 y_ = tf.placeholder(tf.float32, [None, num_classes]) cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1])) # 定义优化器 train_step = tf.train.GradientDescentOptimizer(learning_rate).minimize(cross_entropy) # 训练模型 with tf.Session() as sess: sess.run(tf.global_variables_initializer()) for i in range(num_iterations): batch_xs, batch_ys = get_next_batch(train_data, train_labels, batch_size) sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys}) # 测试模型 correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1)) accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32)) print("Accuracy: ", sess.run(accuracy, feed_dict={x: test_data, y_: test_labels})) ``` 在训练完成后,我们可以使用 `sess.run()` 函数来获取模型的输出。例如,如果我们想要对一个新的数据样本进行预测,我们可以将其传递给 `sess.run()` 函数的 `feed_dict` 参数,并获取模型的输出 `y`。下面是一个简单的示例: ```python # 定义要预测的数据 new_data = [[5.1, 3.5, 1.4, 0.2]] # 获取预测结果 prediction = sess.run(y, feed_dict={x: new_data}) # 打印预测结果 print(prediction) ``` 在上面的代码中,我们将 `new_data` 作为输入数据传递给模型,并使用 `sess.run()` 函数获取模型的输出 `y`。然后,我们打印预测结果即可。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值