pytorch与tensorflow部署角度对比

注意,这文章日期是19年5月18号,所以只是个人对当前这两个框架的一点看法。
由于pytorch的动态图特性很py的脚本语言特性结合得比较好,pytorch在algo developer会比较受欢迎,而tf的图需要提前定义和编译(这里只讨论V1,*),易用性要比pytorch差一些,这就是tf 2.0后续要优化的其中一个点。

这里从部署的角度来看一下两者的差异:
在inference deploy的时候,用py部署是最简单的,但是一旦要压榨性能的时候,py就完全不适合了。c++ deploy solution是一定要有的。pytorch c++部署的相关文档少得可怜,目前只有 https://pytorch.org/tutorials/advanced/cpp_export.html 这个页面有提及(不考虑ONNX),而且中间处理步骤多,约束多,对于部署不友好。而且,这里没有移动终端的相关部署文档,对于重客户端的团队,相当不友好。

相比之下,tf 有很完善的部署文档,如服务端serving库,也可以用golang的binding重写一个(这个方案非常棒,笔者重新实现基本功能只需要不到一天),终端(android/ios)的tflite,也有针对移动端剪枝蒸馏的pocketflow库(腾讯开源的一个不错的库,最后还是要导出tflite的)。文档与例程非常丰富,这就使得部署的门槛大大降低。

小结: pytorch虽然简单易用,但是部署比tensorflow要稍微复杂,文档相对没有那么完善。如果是移动终端,tensorflow是优选平台。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值