第20章 TensorFlow的其他特性
随着TensorFlow的版本不断迭代,目前它已经有很多新特性。除了第15章和第16章介绍的XLA和Debugger外,还有一个非常好的生产系统使用模型服务系统——TensorFlow Serving,以及支持动态图计算的TensorFlow Fold。此外,还有一些基于硬件的优化方法也是目前人工智能发展的趋势。本章就来介绍一下这些内容。
20.1 TensorFlow Serving[1]
TensorFlow Serving是专为生产环境设计的一种灵活、高性能的机器学习模型服务系统。它非常适合基于实际情况的数据大规模地运行,会产生多个模型的训练过程。
TensorFlow Serving可以用于开发过程和生产过程,有以下两个主要作用。
(1)对模型的生命周期进行管理。一个模型一般是先数据训练,然后逐步产生初步的模型,随后优化模型。图20-1所示为持续的模型训练流。
图20-1
(2)当模型采用多重算法进行试验时,对生成的模型进行管理。当客户端(Client)向TensorFlow S