pytorch
文章平均质量分 51
qiumokucao
这个作者很懒,什么都没留下…
展开
-
pytorch 2.0初探:和pytorch 1.13的速度对比
通过多次实验对比pytorch1.13和pytorch2.0.1,发现2.0.1比1.13提速8%左右,但是compile没有效果,暂时没搞清楚什么原因。难道是40系显卡还不支持?另外从官方介绍也可以看出,提速效果跟硬件、模型结构都有关系,所以具体能提速多少,还得自己在实际项目中尝试。原创 2023-07-19 16:29:29 · 3617 阅读 · 1 评论 -
torchserve部署yolov5并测试(一)
torchserve部署yolov5并测试全流程原创 2022-05-19 09:55:57 · 2144 阅读 · 0 评论 -
使用torchserve时出错:RESOURCE_EXHAUSTED: gRPC message exceeds maximum size 6553500: 10838210
torchserve提示gRPC消息超出最大值原创 2022-04-20 09:59:04 · 1591 阅读 · 0 评论 -
每天学点pytorch--torch.nn.Module的apply()方法
官方连接:Module — PyTorch 1.10.0 documentationapply(fn)的官网介绍,该方法会将fn递归的应用于模块的每一个子模块(.children()的结果)及其自身。典型的用法是,对一个model的参数进行初始化。示例:import torchimport torch.nn as nn@torch.no_grad()def init_weights(m): print(m) if type(m) == nn.Linear:原创 2021-11-16 15:11:18 · 8025 阅读 · 0 评论 -
每天学点pytorch--torch.nn.ReLU(inplace=False)中inplace的作用
记录pytorch中遇到的一些问题,文章没有顺序关系官方连接:ReLU — PyTorch 1.10.0 documentationinplace为True时,计算结果会对原来的结果进行覆盖。还是看下pytorch中的具体操作:>>> import torch>>> import torch.nn as nn>>> conv1 = nn.Conv2d(3, 3, kernel_size=3)>>> rl1 =原创 2021-11-03 10:30:59 · 1793 阅读 · 0 评论 -
pytorch中的pixelshuffle通道变换
Pixelshuffle会将shape为(B, r^2*C, H, W)的tensor变成shape为(B, C, rxH, rxW)的tensor。0-r*2的通道映射为输出的第一个通道,以此类推。如下例子中,前4个通道映射为输出的第一个通道;中间4个通道映射为输出的第二个通道;最后4个通道映射为输出的第三个通道。>>> import torch>>> import torch.nn as nn>>> ps = nn.PixelShuffl原创 2021-09-28 14:32:02 · 547 阅读 · 2 评论 -
pytorch的DP和DDP
参考https://andrew.gibiansky.com/blog/machine-learning/baidu-allreduce/#https://zhuanlan.zhihu.com/p/343951042本文只记录一下,为什么DDP的通信比DP的高效。1、DP假设共有K个GPU,GPU的通信带宽是B,每个GPU要发送的数据量是P(所有参数的梯度信息),那GPU0接收完所有信息,需要耗时(K-1)P/B,GPU0更新完参数后,需要同步给其他GPU,又需要耗时(K-1).原创 2021-09-08 15:23:56 · 937 阅读 · 0 评论 -
pytorch模型转到TensorFlow lite:pytorch->onnx->tensorflow->tensorflow lite
现在很多算法都是用pytorch框架训练的,但是在移动端部署很多又使用TensorFlow lite,因此需要将pytorch模型转换到TensorFlow lite。将pytorch模型转到TensorFlow lite的流程是pytorch->onnx->tensorflow->tensorflow lite,本文记录一下踩坑的过程。1、pytorch转onnx这一步比较简单,使用pytorch自带接口就行。不过有一点需要注意的,就是opset版本,可能会影响后续的转换。原创 2021-05-14 17:45:27 · 5390 阅读 · 2 评论 -
pytorch模型转CoreML的相关问题
1、prelu''ValueError: Size of dimension 0 of alpha should be the same as the size of dimension -3 of x.''2、expand_asraise TypeError("cannot determine truth value of Relational")3、upsample不支持多种输入大小可以改用pixelshuffle代替实现上采样...原创 2021-03-16 11:13:53 · 905 阅读 · 0 评论 -
Python计算softmax和pytorch计算结果比较
1、softmax计算公式2、pytorch计算结果import torchimport torch.nn as nnimport numpy as npn1 = np.array([[1, 2, 3], [1000, 0, -1000]], dtype=np.float32)m = nn.Softmax(dim=1)out = m(torch.from_numpy(n1))print(out)执行后输出结果:tensor([[0.0900, 0.2447,.原创 2020-12-28 15:17:40 · 698 阅读 · 1 评论 -
yolov5的上采样层改为反卷积层
对于有的硬件不支持上采样层的,可以将上采样层改为反卷积层。修改配置文件:# parametersnc: 80 # number of classesdepth_multiple: 0.33 # model depth multiplewidth_multiple: 0.50 # layer channel multiple# anchorsanchors: - [10,13, 16,30, 33,23] # P3/8 - [30,61, 62,45, 59,119]原创 2020-12-22 17:50:22 · 4563 阅读 · 11 评论