lujian1989的专栏

迁移学习在深度学习中是经常被使用的方法，指的是在一个任务中预训练的模型被用于另一个任务的模型训练，以加快模型训练，减少资源消耗。然而网络搜索相关的话题，基本上只涉及加载预训练模型的特定变量值的方法，即不涉及预训练模型某个变量与当前任务网络对应变量shape改变的处理。在具体的语音合成多说话人模型迁移学习得到单说话人模型的任务中，就涉及到了迁移变量改变shape的情况，将解决方法如下列出。...

在训练深度网络时，为了减少需要训练参数的个数、或是多机多卡并行化训练大数据大模型等情况时，往往需要共享变量。另外一方面是当模型变得非常复杂的时候，往往存在大量的变量和操作，如何避免这些变量名和操作名的唯一不重复，同时维护一个条理清晰的graph非常重要。本文主要涉及tensorflow中变量管理和命名空间相关的函数：tf.Variable，tf.get_variable，tf.variable...