PyTorch
文章平均质量分 56
yanqs_whu
武汉电力职业技术学院
展开
-
Pytorch:conda安装不同版本的cuda
我不会是最后一个知道可以用conda安装不同版本的cuda的人吧。。。通常的pytorch安装流程是:首先安装NVIDIA驱动,然后安装对应版本的cuda和cudnn最后再安装cuda支持的pytorch版本然而实际上今天发现,完成步骤1以后,直接安装cudatookkit就可以完成步骤2,并且对应的cuda就安装在对应的conda环境下。...原创 2022-04-07 13:47:35 · 2211 阅读 · 0 评论 -
Pytorch(1.4.0+):GRU原理及实现
背景GRU是循环神经网络中一个非常具有性价比的工具,学习了解是非常有必要的。在本博客中,就将简要介绍一下GRU的原理及其使用Pytorch实现的具体代码。参考资料https://pytorch.org/docs/stable/generated/torch.nn.GRUCell.html#torch.nn.GRUCellhttps://github.com/YoYo000/MVSNet/blob/master/mvsnet/convgru.pyhttps://zhuanlan.zhihu.com原创 2020-11-03 15:50:11 · 11320 阅读 · 1 评论 -
PyTorch:日常使用笔记及踩坑
1. 半精度Nan参考资料:https://blog.csdn.net/one_six_mix/article/details/86367086设置优化器eps参数,保证除法不出现除0操作。optim.Adam(model.parameters(), lr=1e-3, eps=1e-4)原创 2020-10-21 15:58:16 · 625 阅读 · 0 评论 -
Pytorch(1.2.0+):多机单卡并行实操(MNIST识别)
背景简单实际操作一下用Pytorch(1.2.0+)进行多机单卡并行训练,可能就不太关注原理了。参考https://blog.csdn.net/u010557442/article/details/79431520https://zhuanlan.zhihu.com/p/116482019https://blog.csdn.net/gbyy42299/article/details/103673840https://blog.csdn.net/m0_38008956/article/detai原创 2020-10-13 11:49:42 · 1507 阅读 · 0 评论 -
PyTorch:学习conv1D,conv2D和conv3D
背景CNN是深度学习的重中之重,而conv1D,conv2D,和conv3D又是CNN的核心,所以理解conv的工作原理就变得尤为重要。在本博客中,将简单梳理一下这三种卷积,以及在PyTorch中的具体实现。参考https://pytorch.org/docs/master/nn.html#conv1dhttps://pytorch.org/docs/master/nn.function...原创 2020-03-06 18:16:10 · 25060 阅读 · 7 评论 -
PyTorch(1.3.0+):学习torch.nn.functional.grid_sample
背景最近在学习SfMLearner,其中一个非常重要的部分是Differentiable depth image-based rendering,翻译过来就是基于深度的可微图像渲染。这看起来好像很高大上,但是换句话说其实就是要根据深度,在当前影像上生成另一个视角的影像。不多说这个了,这其中一个比较重要的部分就是,双线性采样,论文里图示如下,ItI_tIt是目标影像(即前文说的另一个视角的影像)...原创 2020-02-21 20:39:13 · 4975 阅读 · 8 评论 -
PyTorch:模型参数读取与设置--以FlowNetSimple为例
一、背景在“搞”深度学习时,除非富如东海,往往都不会直接用大量数据来训练一个网络;一般情况下,比较省钱且高效的思路是利用一些预训练的模型,并在其基础上进行再训练优化,达到自己的目的。因此,在本博客中将简单记录一下,如何在PyTorch基础上读取预训练模型的参数,并添加到自己的模型中去,从而尽可能减少自己的计算量。为了直接讲明整个过程,本文设计了一个实验,首先设计了一个网络,其前半部分与Flo...原创 2020-02-19 15:16:21 · 2423 阅读 · 0 评论 -
PyTorch(1.3.0+):基于UNet和camvid数据集的道路分割
背景语义分割是深度学习中的一个非常重要的研究方向,并且UNet是语义分割中一个非常经典的模型。在本次博客中,我尝试用UNet对camvid dataset数据集进行道路分割,大致期望的效果如下:原图道路分割效果本博客的代码参考了以下链接:https://github.com/milesial/Pytorch-UNethttps://github.com/qubvel/segment...原创 2020-02-13 19:56:26 · 10944 阅读 · 79 评论 -
PyTorch:基于循环神经网络利用sin预测cos
背景之前在学习深度学习的时候,由于只是做一些图像处理相关的东西,因此关注的重心都在CNN上;但是目前,RNN也逐渐在图像处理上发挥了非常重要的作用,所以学习并了解一些RNN的基础和原理也是非常重要。本次,将利用sin函数值预测cos函数值,分别用RNN、GRU和LSTM进行了测试。我也得到了一些结论,但是目前我对循环神经网络理解还比较浅薄,所以可能也不一定对。最后,本文的大部分代码参考了以下...原创 2020-02-11 14:50:18 · 1110 阅读 · 0 评论 -
PyTorch:Digit Recognizer比赛后续-训练优化
背景上篇博客尝试了数据增强,取得了不错的效果,但是结果仍旧不是特别好。所以这次又从训练的角度进行了一些优化,包括:BatchNorm使用变化的学习率继续增加epoch最终实验结果还是非常棒的,代码和结果如下。目前已经没有动力继续训练了,因为原则上的方法基本上都已经考虑到了。后续如果要继续改进,无非换更深的网络(利用ResNet18),和增加更多的迭代次数。https://www.k...原创 2020-02-07 10:42:26 · 297 阅读 · 0 评论 -
PyTorch:Digit Recognizer比赛后续-数据增强
背景上次利用PyTorch做了一个模型以后,训练的结果只有94%左右,并不是特别好。本次进行了一些改进:增加训练次数添加数据增强代码链接:https://www.kaggle.com/yannnnnnnnnnnn/kernel5d66c76231 version9结果:方法1、增加训练次数这个没啥好说的,直接修改epoch=30即可。2、增加数据增强增加数据增强,首先...原创 2020-02-06 14:00:54 · 361 阅读 · 0 评论 -
PyTorch:Digit Recognizer比赛
背景自从上次学了PyTorch以后,又丢下了很长一段时间,都快忘光了。这次刷了一遍《Dive into DL PyTorch》后,又尝试做了Kaggle上的Digit Reconizer比赛。参考资料https://tangshusen.me/Dive-into-DL-PyTorch/#/https://www.kaggle.com/kanncaa1/pytorch-tutorial-fo...原创 2020-02-05 17:04:42 · 958 阅读 · 0 评论 -
Pytorch : Run FlowNet2 with Pytorch
MethodInstall Ubuntu16.04Install NVIDIA Driver and CUDA 10.0Install Anaconda python3.7Change Anaconda MirrorInstall Pytorch 1.0.1 with CUDA 10.0conda install pytorch==1.0.1 torchvision==0.2.2 ...原创 2019-12-06 16:29:28 · 1338 阅读 · 8 评论 -
PyTorch:基于AlexNet的猫狗识别
背景猫狗识别是学习CNN中最有趣的一个应用,本次我在Kaggle上的“Dogs vs. Cats Redux”进行了一次尝试。考虑到训练速度和实验的简易性,我使用了比较简单的AlexNet,并且还用了对应ImageNet的预训练模型(https://github.com/Cadene/pretrained-models.pytorch)。因此,下文中将按照数据处理、模型预处理、训练和测试结果几...原创 2019-05-09 20:46:47 · 7105 阅读 · 4 评论 -
PyTorch:基于FastAI的猫狗识别
背景上次自己用PyTorch对AlexNet进行猫狗识别取得了不错效果。后续我又继续使用Resnet50进行猫狗分类,但是却没有取得较好的效果,想来还是自己炼丹的技巧太差了。因此,后续决定使用FastAI进行训练(FastAI封装了很多炼丹技巧),最后效果还不错,Kaggle的分数为0.05779,已经可以挤进前100了;相比上次,效果还是很不错的。代码(基本抄的参考链接)https:/...原创 2019-05-19 19:24:47 · 1186 阅读 · 3 评论 -
PyTorch:基于CNN的数字识别(MNIST)
背景之前尝试了直接使用全链接直接进行数字识别,效果虽然也说的过去,但是一旦使用我自己写的数字,预测的效果瞬间就不太行了。所以本次又尝试了一下使用卷积神经网络进行数字识别,需要注意的是本博客中的网络结构是随便设置的。代码链接:https://github.com/Yannnnnnnnnnnn/learnPyTorch/tree/master/trainMNIST/conv一、训练train_...原创 2019-05-07 11:08:04 · 4102 阅读 · 7 评论 -
PyToch:基于神经网络的数字识别(MNIST数据集)
背景最近在学习PyTorch和深度学习,所以决定先用MNIST数据集试试手,利用神经网络做一个简单的数字识别。参考代码来源于:https://github.com/udacity/deep-learning-v2-pytorch/tree/master/intro-to-pytorch需要注意的是本文的神经网络中只使用了全链接层,只是为了理解PyTorch而进行的一个非常简单的实验。以下...原创 2019-05-06 20:44:51 · 1011 阅读 · 0 评论