pytorch
文章平均质量分 70
joker-G
这个作者很懒,什么都没留下…
展开
-
spark部署TF、 Torch深度学习模型
模型训练TF(2.1)import tensorflow as tffrom tensorflow.keras import layers,modelsimport tensorflow as tfimport numpy as npimport pandas as pdimport osdef predict(): x = pd.DataFrame({'x0': [0.1], 'x1': [0.2]}) # x = np.random.randn(1, 2) m原创 2021-12-20 19:23:37 · 3764 阅读 · 3 评论 -
tensorRT 与 torchserve-GPU性能对比
实验对比前端时间搭建了TensorRT 、 Torchserve-GPU,最近抽时间将这两种方案做一个简单的实验对比。实验数据Cuda11.0、RTX3090 24G、Resnet50TensorRT 、Torchserve-GPU各自一张卡搭建10进程接口,感兴趣的可以查看我个人其他文章。30进程并发 、2000 1200*720总量数据TensorRT 的部署使用了RTX3090 10进程Torchserve-GPU的部署使用了RTX3090 10进程Torchserve-CPU的部署原创 2021-09-15 16:33:02 · 1570 阅读 · 4 评论