tensorfow estimator: WarmStartSettings

最新推荐文章于 2022-10-09 17:59:29 发布

MatthewHsw

最新推荐文章于 2022-10-09 17:59:29 发布

阅读量2k

点赞数

分类专栏： tensorflow 文章标签： estimator warmstartsetting

本文链接：https://blog.csdn.net/Murdock_C/article/details/94402383

版权

15 篇文章 2 订阅

订阅专栏

tensorflow version: v 1.13
在tf.estimator.WarmStartSettings里, 是可以设置具体restore哪些变量, 里面有两个参数,

ckpt_to_initialize_from, 就是需要restore的ckpt地址, 例如xx/model.ckpt-xx
vars_to_warm_start, 就是判断哪些变量需要被restore的. 需要说明的是, 默认值是".*",它会使得程序去resotre所有的TRAINABLE_VARIABLES变量, 而这个变量集合里是不含有bn层的moving_mean及moving_variance参数的, 按照官网的解释就是:
```
  Defaults to '.*', which warm-starts all variables in the TRAINABLE_VARIABLES collection. Note that this excludes variables such as accumulators and moving statistics from batch norm.
```
因此有两种解决方法, 1是根据你需要restore的变量scope名字, 显式的指定需要restore的变量, 如有多个名字, 可以放在一个列表里, 变量名字支持正则表达式寻找. 2 是传入参数[".*"], 让程序去从Global variable里去恢复所有的变量, 这样就可以把bn层的moving_mean及moving_variance参数成功restore.

关注