尝试nvidia的Tacotron-2和waveglow的结合, 并且着重考虑多GPU以及inference时的性能.

该博客探讨了如何整合NVIDIA的Tacotron-2和WaveGlow用于语音合成功能,重点关注在多GPU环境下的性能优化和推理加速。内容包括NVIDIA提供的模型脚本链接、Docker使用指南以及模型推断时的注意事项,如启用eval模式以确保一致性。此外,文章讨论了如何优化代码结构、恢复学习率以及在推理过程中实现分布式计算的挑战。
摘要由CSDN通过智能技术生成

https://ngc.nvidia.com/catalog/model-scripts/nvidia:tacotron_2_and_waveglow_for_pytorch

https://ngc.nvidia.com/catalog/model-scripts/nvidia:tacotron_2_and_waveglow_for_pytorch/quickStartGuide

https://www.jianshu.com/p/4905bf8e06e5

model = TheModelClass(*args, **kwargs)
 model.load_state_dict(torch.load(PATH))
 model.eval()

记住,您必须调用model.eval(),以便在运行推断之前将dropout和batch规范化层设置为评估模式。如果不这样做,将会产生不一致的推断结果。

https://github.com/NVIDIA/nvidia-docker/wiki/nvidia-docker#gpu-isolation

<
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值