Tensorflow的梯度异步更新

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/supe_king/article/details/78017429

背景:先说一下应用吧,一般我们进行网络训练时,都有一个batchsize设置,也就是一个batch一个batch的更新梯度,能有这个batch的前提是这个batch中所有的图片的大小一致,这样才能组成一个placeholder。那么若一个网络对图片的输入没有要求,任意尺寸的都可以,但是我们又想一个batch一个batch的更新梯度怎么办呢?操作如下:

先计算梯度:

# 模型部分
Optimizer = tf.train.GradientDescentOptimizer(1)
gradient = Optimizer.compute_gradients(loss)   # 每次计算所有变量的梯度
grads_holder = [(tf.placeholder(tf.float32, shape=g.get_shape()), v) for (g, v) in gradient]# 将每次计算的梯度保存
optm = Optimizer.apply_gradients(grads_holder) # 进行梯度更新

# 初始化部分
sess = tf.Session()
init = tf.global_variables_initializer()
sess.run(init)

# 实际训练部分
grads = []                 # 定义一个空的列表用于存储每次计算的梯度
for i in range(batchsize): # batchsize设置在这里
    x_i = ...              # 输入
    y_real = ...           # 标签
    grad_i = sess.run(gradient, feed_dict={inputs: x_i, outputs: y_real}) #梯度计算
    grads.append(grad_i)   # 梯度存储
# 定义一个空的字典用于存储,batchsize中所有梯度的和
grads_sum = {}          
# 将网络中每个需要更新梯度的变量都遍历一遍   
for i in range(len(grads_holder)): 
    k = grads_holder[i][0] # 得到该变量名
    # 将该变量名下的所有梯度求和,这里也可以求平均,求平均只需要除以batchsize
    grads_sum[k] = sum([g[i][0] for g in grads]) 
# 完成梯度更新
sess.run(optm,feed_dict=grads_sum)  

ok,以上就可以完成每次输入一张任意大小图片,再一个batchsize之后再跟新梯度。

展开阅读全文

没有更多推荐了,返回首页