pytorch
收纳和整理一些在平时项目开发中接触到的pytorch的知识点和tricks。
ReLuJie
计算机视觉.
展开
-
pytorch模型载入之gpu和cpu互转
Pytorch训练模型fine-tunning、模型推理等环节常常涉及到模型加载,其中会涉及到将不同平台、版本的模型相互转化:Case-1.载入多GPU模型pretained_model = torch.load(’muti_gpus_model.pth‘) # 网络+权重# 载入为单gpu模型gpu_model = pretrained_model.module ...原创 2019-07-30 16:19:06 · 18694 阅读 · 2 评论 -
Opencv和PIL.Image读取图片的区别
imshow Opopencv : cv2.imshow()采用BGR模式,通过cv2.imread()读取; matplotlib.pyplot : plt.imshow() 采用RGB模式, 通过plt.imread()读取; PIL.Image : img.show() 采用RGB模式,通过Image.open()读取;img对图片对象备注:通过cv2.Video...原创 2019-06-13 11:05:01 · 6280 阅读 · 0 评论 -
Pytorchd的Dataloader小结
工作之余自己对pytorch的DataLoader源码进行研读,简要总结并贴出各环节的主要代码和大家分享。 实际中的case # dataloading ...data_loader = torch.utils.data.DataLoader( Dataset(self.args.__dict__, random_shift=True, data_mode...原创 2019-06-17 11:30:48 · 1616 阅读 · 0 评论 -
show服务器软硬件infos
快速查看服务软硬件核心参数原创 2023-11-16 15:42:00 · 151 阅读 · 0 评论 -
Annotated Transformer
Transformer结构深度注解原创 2023-01-04 10:53:46 · 312 阅读 · 0 评论 -
Pytorch模型flops, params计算
thopimport thopfrom torchvision.models import resnet50if __name__ == "__main__": model = resnet50() input = torch.randn(1, 3, 224, 224) flops, params = thop.profile(model, inputs=...原创 2020-03-18 17:59:50 · 1602 阅读 · 0 评论 -
Pytorch模型推理注意事项
with torch.no_gradDisabling gradient calculation is useful for inference, when you are sure that you will not callTensor.backward(). It will reduce memory consumption for computations that would...原创 2020-01-13 20:09:22 · 2299 阅读 · 8 评论 -
Pytorch参数初始化--torch.nn.init
org-docs : nn.init原创 2020-01-06 17:38:09 · 346 阅读 · 0 评论 -
Pytorch参数初始化--数学原理
预备知识假设x是一个随机变量,它的均值和方差的定义为: 假设x,y是两个随机变量,记z=xy,则随机变量z的均值和方差为: 特别地,当x,y独立的时候,则有: ...原创 2020-01-03 11:57:58 · 862 阅读 · 0 评论 -
Pytorch参数初始化--默认初始化
导语 :使用pytorch搭好网络之后,没有显式地初始化网络参数,是否可以直接训练网络呢?_ConvNdclass _ConvNd(Module): __constants__ = ['stride', 'padding', 'dilation', 'groups', 'bias', 'padding_mode', 'output_...原创 2020-01-03 11:00:09 · 3093 阅读 · 2 评论 -
Pytorch中Tensor的类型转换
Pytorch中的Tensor常用的类型转换函数(inplace操作)train/eval过程中,打印loss信息 data.item() ----> Tensor --> float数据类型转换 在Tensor后加 .long(), .int(), .float(), .double()等即可,也可以用.to()函数进行转换, Tensor类型官网...原创 2019-11-25 20:45:32 · 12029 阅读 · 0 评论 -
python及pytorch中乘法使用小结
numpy中的乘法A = np.array([[1, 2, 3], [2, 3, 4]])B = np.array([[1, 0, 1], [2, 1, -1]])C = np.array([[1, 0], [0, 1], [-1, 0]])A * B : # 对应位置相乘np.array([[ 1, 0, 3], [ 4, 3, -4]]) A.dot(B) : ...原创 2019-03-27 22:15:48 · 9978 阅读 · 0 评论 -
Pytorch常用函数参数列表快速查阅
Convtorch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros')BNtorch.nn.BatchNorm2d(num_features, eps=1e-05, momentum=...原创 2019-06-04 10:41:35 · 1194 阅读 · 0 评论