本文介绍了提高TensorFlow神经网络训练速度的策略。首先，利用GPU资源能显著提升复杂网络的收敛速度。其次，使用内置的`model.fit()`函数相比自定义算法能更快地进行训练。最后，对于必须使用定制算法的情况，通过在关键部分应用`@tf.function`装饰器，可提升约一倍的训练效率，特别是在梯度计算和损失函数定义中。
如何加快收敛速度？
使用GPU
越是复杂的网络，GPU的性能提高也明显。使用GPU是最有效的提高收敛速度的方法
使用model.fit()
使用tensorflow提供的model.fit()训练速度非常快，比自己编写的算法要快很多。凡是能够直接应用的，一定使用tensorflow提供的函数与方法。
使用@tf.function
如果必须要使用定制化的算法，可以在关键的地方使用@tf.function，大概可以提高1倍的训练速度。@tf.function 一般修饰梯度带所在的函数，也可以是计算损失函数。比如：
@tf.function
def train_ae(x):
with tf.GradientTape() as tape:
x_rec_logits <
1085
2391
1400
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
最低0.47元/天 解锁文章
