Pytorch入门路线

最新推荐文章于 2024-01-31 17:09:56 发布
最新推荐文章于 2024-01-31 17:09:56 发布
阅读量498 收藏 10
点赞数
原文链接：https://github.com/inessus/pytorch_awesome/blob/master/pytorch_awesome.md
版权

Pytorch入门路线

转自https://github.com/inessus/pytorch_awesome/blob/master/pytorch_awesome.md
强烈推荐+++
不过我把它全部弄成了表格样式，个人觉得看起来更清爽一些
还可以参考
https://www.jianshu.com/p/4531c1992106?utm_campaign=maleskine&utm_content=note&utm_medium=seo_notes&utm_source=recommendation

本文收集了关于pytorch的各种资源。适用于深度学习新手的“入门指导系列”，也有适用于老司机的论文代码实现，包括 Attention Based CNN、A3C、WGAN、BERT等等。所有代码均按照所属技术领域分类，包括机器视觉/图像相关、自然语言处理相关、强化学习相关等等。所以如果你打算入手这风行一世的 PyTorch 技术，那么就快快收藏本文吧！

PyTorch即 Torch 的 Python 版本。Torch 是由 Facebook 发布的深度学习框架，因支持动态定义计算图，相比于 Tensorflow 使用起来更为灵活方便，特别适合中小型机器学习项目和深度学习初学者。但因为 Torch 的开发语言是Lua，导致它在国内一直很小众。所以，在千呼万唤下，PyTorch应运而生！PyTorch 继承了 Troch 的灵活特性，又使用广为流行的 Python 作为开发语言，所以一经推出就广受欢迎！

1 入门系列教程

序号内容链接备注
1.1PyTorch Tutorialshttps://github.com/MorvanZhou/PyTorch-Tutorial.git著名的“莫烦”PyTorch系列教程的源码
1.2Deep Learning with PyTorch: a 60-minute blithttp://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.htmlhttp://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.html
1.3Simple examples to introduce PyTorch https://github.com/jcjohnson/pytorch-examples.git由网友提供的PyTorch教程，通过一些实例的方式，讲解PyTorch的基本原理。内容涉及Numpy、自动求导、参数优化、权重共享等

2 入门实例

序号内容链接备注
2.1Ten minutes pyTorch Tutorialhttps://github.com/SherlockLiao/pytorch-beginner.git知乎上“十分钟学习PyTorch“系列教程的源码
2.2Official PyTorch Exampleshttps://github.com/pytorch/examples包括内容在此表下
2.3PyTorch Tutorial for Deep Learning Researchershttps://github.com/yunjey/pytorch-tutorial.git据说是提供给深度学习科研者们的PyTorch教程←_←。教程中的每个实例的代码都控制在30行左右，简单易懂，内容在表下
2.4PyTorch-playgroundhttps://github.com/aaron-xichen/pytorch-playground.gitPyTorch初学者的Playground，在这里针对一下常用的数据集，已经写好了一些模型，所以大家可以直接拿过来玩玩看，目前支持的数据集的模型如表下

2.2 Official PyTorch Examples官方提供的实例源码，包括以下内容：

  • MNIST Convnets
  • Word level Language Modeling using LSTM RNNs
  • Training Imagenet Classifiers with Residual Networks
  • Generative Adversarial Networks (DCGAN)
  • Variational Auto-Encoders
  • Superresolution using an efficient sub-pixel convolutional neural network
  • Hogwild training of shared ConvNets across multiple processes on MNIST
  • Training a CartPole to balance in OpenAI Gym with actor-critic
  • Natural Language Inference (SNLI) with GloVe vectors, LSTMs, and torchtext
  • Time sequence prediction - create an LSTM to learn Sine waves

2.3 所包括的内容

  • PyTorch Basics
  • Linear Regression
  • Logistic Regression
  • Feedforward Neural Network
  • Convolutional Neural Network
  • Deep Residual Network
  • Recurrent Neural Network
  • Bidirectional Recurrent Neural Network
  • Language Model (RNN-LM)
  • Generative Adversarial Network
  • Image Captioning (CNN-RNN)
  • Deep Convolutional GAN (DCGAN)
  • Variational Auto-Encoder
  • Neural Style Transfer
  • TensorBoard in PyTorch

2.4 PyTorch初学者的Playground，在这里针对一下常用的数据集，已经写好了一些模型，所以大家可以直接拿过来玩玩看，目前支持以下数据集的模型。

  • mnist, svhn
  • cifar10, cifar100
  • stl10
  • alexnet
  • vgg16, vgg16_bn, vgg19, vgg19_bn
  • resnet18, resnet34, resnet50, resnet101, resnet152
  • squeezenet_v0, squeezenet_v1
  • inception_v3

3 图像、视觉、CNN相关实现

序号内容链接备注
3.1PyTorch-FCNhttps://github.com/wkentaro/pytorch-fcn.gitFCN(Fully Convolutional Networks implemented) 的PyTorch实现
3.2Attention Transfer https://github.com/szagoruyko/attention-transfer.git论文 “Paying More Attention to Attention: Improving the Performance of Convolutional Neural Networks via Attention Transfer” 的PyTorch实现
3.3Wide ResNet model in PyTorchhttps://github.com/szagoruyko/functional-zoo.git一个PyTorch实现的 ImageNet Classification
3.4CRNN for image-based sequence recognitionhttps://github.com/bgshih/crnn.git这个是 Convolutional Recurrent Neural Network (CRNN) 的 PyTorch 实现。CRNN 由一些CNN，RNN和CTC组成，常用于基于图像的序列识别任务，例如场景文本识别和OCR
3.5Scaling the Scattering Transform: Deep Hybrid Networkshttps://github.com/edouardoyallon/pyscatwave.git使用了“scattering network”的CNN实现，特别的构架提升了网络的效果
3.6Conditional Similarity Networks (CSNs)https://github.com/andreasveit/conditional-similarity-networks.git《Conditional Similarity Networks》的PyTorch实现
3.7Multi-style Generative Network for Real-time Transferhttps://github.com/zhanghang1989/PyTorch-Style-Transfer.gitMSG-Net 以及 Neural Style 的 PyTorch 实现
3.8Big batch traininghttps://github.com/eladhoffer/bigBatch.git《Train longer, generalize better: closing the generalization gap in large batch training of neural networks》的 PyTorch 实现
3.9CortexNethttps://github.com/e-lab/pytorch-CortexNet.git 一个使用视频训练的鲁棒预测深度神经网络
3.10Neural Message Passing for Quantum Chemistry https://github.com/priba/nmp_qc.git论文《Neural Message Passing for Quantum Chemistry》的PyTorch实现，好像是讲计算机视觉下的神经信息传递

4 对抗生成网络、生成模型、GAN相关实现

序号内容链接备注
4.1Generative Adversarial Networks (GANs) in PyTorchhttps://github.com/devnag/pytorch-generative-adversarial-networks.git一个非常简单的由PyTorch实现的对抗生成网络
4.2DCGAN & WGAN with Pytorch https://github.com/chenyuntc/pytorch-GAN.git由中国网友实现的DCGAN和WGAN，代码很简洁
4.3Official Code for WGANhttps://github.com/martinarjovsky/WassersteinGAN.gitWGAN的官方PyTorch实现
4.4DiscoGAN in PyTorchhttps://github.com/carpedm20/DiscoGAN-pytorch.git 《Learning to Discover Cross-Domain Relations with Generative Adversarial Networks》的 PyTorch 实现
4.5Adversarial Generator-Encoder Networkhttps://github.com/DmitryUlyanov/AGE.git《Adversarial Generator-Encoder Networks》的 PyTorch 实现
4.6CycleGAN and pix2pix in PyTorch https://github.com/junyanz/pytorch-CycleGAN-and-pix2pix.git6 图到图的翻译，著名的 CycleGAN 以及 pix2pix 的PyTorch 实现
4.7Weight Normalized GANhttps://github.com/stormraiser/GAN-weight-norm.git 《On the Effects of Batch and Weight Normalization in Generative Adversarial Networks》的 PyTorch 实现

5 机器翻译、问答系统、NLP相关实现

序号内容链接备注
5.1DeepLearningForNLPInPytorchhttps://github.com/rguthrie3/DeepLearningForNLPInPytorch.git 一套以 NLP 为主题的 PyTorch 基础教程。本教程使用Ipython Notebook编写，看起来很直观，方便学习
5.2Practial Pytorch with Topic RNN & NLPhttps://github.com/spro/practical-pytorch以 RNN for NLP 为出发点的 PyTorch 基础教程，分为“RNNs for NLP”和“RNNs for timeseries data”两个部分
5.3PyOpenNMT: Open-Source Neural Machine Translationhttps://github.com/OpenNMT/OpenNMT-py.git一套由PyTorch实现的机器翻译系统
5.4Deal or No Deal? End-to-End Learning for Negotiation Dialogueshttps://github.com/facebookresearch/end-to-end-negotiator.git Facebook AI Research 论文《Deal or No Deal? End-to-End Learning for Negotiation Dialogues》的 PyTorch 实现
5.5Attention is all you need: A Pytorch Implementationhttps://github.com/jadore801120/attention-is-all-you-need-pytorch.gitGoogle Research 著名论文《Attention is all you need》的PyTorch实现
5.6Improved Visual Semantic Embeddingshttps://github.com/fartashf/vsepp.githttps://github.com/fartashf/vsepp.git
5.7Reading Wikipedia to Answer Open-Domain Questionshttps://github.com/facebookresearch/DrQA.git一个开放领域问答系统DrQA的PyTorch实现
5.8一个开放领域问答系统DrQA的PyTorch实现https://github.com/ExplorerFreda/Structured-Self-Attentive-Sentence-Embedding.gitIBM 与 MILA 发表的《A Structured Self-Attentive Sentence Embedding》的开源实现
5.9BERT的实现https://github.com/codertimo/BERT-pytorch BERT的实现

6 先进视觉推理系统

序号内容链接备注
6.1Visual Question Answering in Pytorchhttps://github.com/Cadene/vqa.pytorch.git一个PyTorch实现的优秀视觉推理问答系统，是基于论文《MUTAN: Multimodal Tucker Fusion for Visual Question Answering》实现的。项目中有详细的配置使用方法说明
6.2Clevr-IEPhttps://github.com/facebookresearch/clevr-iep.gitFacebook Research 论文《Inferring and Executing Programs for Visual Reasoning》的PyTorch实现，讲的是一个可以基于图片进行关系推理问答的网络

7 深度强化学习相关实现

序号内容链接备注
7.1Deep Reinforcement Learning withpytorch & visdom https://github.com/onlytailei/pytorch-rl.git 多种使用PyTorch实现强化学习的方法
7.2Value Iteration Networks in PyTorchhttps://github.com/onlytailei/Value-Iteration-Networks-PyTorch.gitValue Iteration Networks (VIN) 的PyTorch实现
7.3A3C in PyTorchhttps://github.com/onlytailei/A3C-PyTorch.gitAdavantage async Actor-Critic (A3C) 的PyTorch实现

8 通用神经网络高级应用

序号内容链接备注
8.1PyTorch-meta-optimizerhttps://github.com/ikostrikov/pytorch-meta-optimizer.git论文《Learning to learn by gradient descent by gradient descent》的PyTorch实现
8.2OptNet: Differentiable Optimization as a Layer in Neural Networkshttps://github.com/locuslab/optnet.git 论文《Differentiable Optimization as a Layer in Neural Networks》的PyTorch实现
8.3Task-based End-to-end Model Learning https://github.com/locuslab/e2e-model-learning.git论文《Task-based End-to-end Model Learning》的PyTorch实现
8.4DiracNetshttps://github.com/szagoruyko/diracnets.git不使用“Skip-Connections”而搭建特别深的神经网络的方法
8.5ODIN: Out-of-Distribution Detector for Neural Networkshttps://github.com/ShiyuLiang/odin-pytorch.git 这是一个能够检测“分布不足”（Out-of-Distribution)样本的方法的PyTorch实现。当“true positive rate”为95％时，该方法将DenseNet（适用于CIFAR-10）的“false positive rate”从34.7％降至4.3％
8.6Accelerate Neural Net Training by Progressively Freezing Layershttps://github.com/ajbrock/FreezeOut.git一种使用“progressively freezing layers”来加速神经网络训练的方法
8.7Efficient_densenet_pytorch https://github.com/gpleiss/efficient_densenet_pytorch.gitDenseNets的PyTorch实现，优化以节省GPU内存
无CCFA就不改名
关注
  • 0
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
[Python人工智能] 四十六.PyTorch入门 (1)环境搭建、神经网络普及和Torch基础知识
杨秀璋的专栏
06-20 416
从本专栏开始，作者正式研究Python深度学习、神经网络及人工智能相关知识。前文讲解合如何利用keras和tensorflow构建基于注意力机制的CNN-BiLSTM-ATT-CRF模型，并实现中文实体识别研究。这篇文章将介绍PyTorch入门知识。前面我们的Python人工智能主要以TensorFlow和Keras为主，而现在最主流的深度学习框架是PyTorch。结合读者建议和个人爱好，接下来我们将分享PoTorch入门文章，希望对初学者有所帮助。
pytorch学习笔记一：pytorch学习的路线图
weixin_38410551的博客
09-18 849
pytorch学习笔记
pytorch学习路线
chuyayu7770的博客
01-27 855
pytorch学习路线 D1 10分钟快速入门
pytorch学习路径
weixin_43722026的博客
12-07 571
参考了黄海广老师的pytorch快速入门资料，并结合自身从0到1的学习经历，写下此pytorch入门路径 本路径适合人群：深度学习初学者，深度学习框架初学者 欢迎拥抱最美DL框架 1. 莫烦pytorch系列教程 莫烦的这套视频一集最长也就15min，大多都是5分钟左右，莫烦哥哥风趣幽默，内容浅显易懂，直接上手，适合对pytorch有个基本了解。一天即可刷完并练习完。 目录： pytorch简介...
pytorch学习路程
最新发布
2301_81533581的博客
01-31 542
本文为pytorch学习而作（2024.1.28）
入门PyTorch的学习路线指南
m0_74693860的博客
05-10 2013
以上是一个基本的入门PyTorch的学习路线，建议按照上述顺序逐步学习和实践。当然，深度学习是一个广泛应用于现实场景的领域，建议保持学习和更新知识的态度，关注最新的研究进展和实际应用，不断扩展自己的深度学习知识和技能。PyTorch是目前最受欢迎的深度学习框架之一，它具有易于使用、灵活性强、支持动态图等优点，因此备受研究者和工程师的青睐。如果你想学习PyTorch，下面是一个入门PyTorch的学习路线。
Pytorch框架学习路径(一：张量简介与创建)
源仔
05-28 695
学习课程来自深度之眼。 文章目录张量是什么？Variable数据类型张量的创建Tensor创建一：直接创建torch.tensor创建张量torch.from_numpy创建张量Tensor创建二：依据数值创建torch.zeros()torch.zeros_like()和torch.ones()torch.full()Tensor创建三：依据概率创建torch.arange()torch.logspace()torch.logspace()torch.eye()torch.normal()随机生成Tens
Pytorch学习入门指导教程（入门路线图，附推荐工程）
MichaelLiang的博客
06-25 4302
Pytorch学习入门指导教程（附推荐工程） 接触Pytorch一年有余，从小菜鸟变成了大菜鸟，现总结下经验，供大家提供一份入门路线图。 1）学习官方Beginner Tutorials，有个大概了解（https://pytorch.org/tutorials/index.html）; 2）学习Imagenet分类demo逐行深入理解（https://github.com/pytorch/e...
深度学习入门路线.zip
10-20
本压缩包"深度学习入门路线.zip"提供了一份详细的入门指南，包括文档和思维导图，旨在帮助初学者系统地了解和掌握深度学习的基础知识和实践技能。 首先，文档"人工智能常用资料及网址收集.docx"是一个宝贵的资源...
Pytorch框架学习路径(五：autograd与逻辑回归)
源仔
06-01 572
逻辑回归的步进式实现，按循序看完，忽然发现我懂了逻辑回归。
Pytorch框架CV开发学习路线图
张鹏的博客
02-14 1453
文章目录01Pytorch基础操作Numpy基础操作OpenCV基础操作Pytorch基础操作02 自动梯度与回归自动梯度线性回归逻辑回归03 人工神经网络人工神经网络的基本概念pytorch的基础数据集手写字符识别人工神经网络训练模型保存与预测调用04 卷积神经网络卷积的基本概念与术语（相关、相似性）卷积神经网络的基本原理与参数构建卷积神经网络卷积神经网络的训练与预测ONNX格式模型导出与推理05 Pytorch数据集与训练可视化Pytorch中的数据与数据集类Pytorch中训练可视化06 人脸land
Python 学习路线最全整理！
m0_59236127的博客
08-14 165
同样的，网络安全工程师我也没有放进去谈，虽然Python也能做网络安全方面的事情，但对于一个成熟的网络安全工程师甚至红、H客而言，你需要精通的语言可不止1门而已了，又或者说，这已经不是语言工具层面的问题了。Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。那么爬虫怎么学习才能成体系？爬虫作为一个热门的方向，不管是在自己兼职还是当成辅助技能提高工作效率，都是很不错的选择，当然了，还有一些以此为主职业的爬虫工程师。
【Python PyTorch】零基础也能轻松掌握的学习路线与参考资料
weixin_50409347的博客
05-14 912
以上是针对初学者的PyTorch学习路线，它包括PyTorch的基础知识、数据处理、模型构建以及模型训练和评估等方面。同时，本文也提供了一些参考资料和优秀实践，以供读者参考。相信在学习完本文之后，你会对PyTorch有更深入的理解，并且能够掌握更多的PyTorch技能，从而更好地应用PyTorch开发深度学习应用。
【Python】零基础入门 Python学习路线最佳实践
fengdu78的博客
10-13 667
今天我们来分享零基础入门 Python，应该如何自学，自学的路径是怎么样的，内容是从入门到进阶，既有教程，也有经典书籍推荐，还有众多类库介绍，不要错过哦Python 的发展方向还是比较多的，比如 Web 开发，爬虫，数据分析，机器学习等。主要分为以下几个部分：文档教程书籍推荐类库介绍开源项目神级网站文档教程Python 官方文档❝docs.python.org/zh-cn/3/毫无疑问，学习任何知...
Pytorch框架学习路径(八：图像预处理——transforms)
源仔
06-04 1320
Pytorch 图像预处理——transforms详解，含视频讲解。
Pytorch框架学习路径(二：张量操作)
源仔
05-29 705
张量操作 文章目录张量操作张量拼接与切分torch.cat()torch.stack()torch.chunk()torch.split()张量索引torch.index_select()torch.masked_select()张量变换torch.reshape()torch.transpose()torch.squeeze()张量数学运算torch.add() 张量操作 张量拼接与切分 torch.cat() 1、torch.cat创建张量 import torch torch.manual_seed
【深度学习】新人如何入门Pytorch的路线？有哪些资源推荐？
fengdu78的博客
08-15 1239
初学者如何入门Pytorch，看看过来人的建议作者：范星.xfanplus链接：https://www.zhihu.com/question/55720139/answer/2944494...
Python 完整学习路线，非常赞！
zenRRan的博客
10-19 179
Python 技术栈完整学习路线如今书籍汗牛充栋，如何从零、循序渐进地掌握Python技术栈，成为很多读者朋友们关心的问题。最近，我特意按照Python技术栈的学习逻辑，把它划分为六个...
PyTorch学习—1.深入浅出PyTorch（如何学习PyTorch）
柳杰的博客
07-12 1334
文章目录一、为什么学习PyTorch二、着重学习哪些知识三、如何学习与掌握PyTorch四、PyTorch的学习路径 一、为什么学习PyTorch   PyTorch日益增长的发展速度与深度学习时代的迫切需要。 同时，PyTorch在Google搜索频次与期刊论文的引用频次得到了迅猛的增长。   PyTorch优点如下： 上手快:掌握Numpy和基本深度学习概念即可上手 代码简洁灵活:用nn.module封装使网络搭建更方便;基于动态图机制，更灵活 Debug方便:调试PyTorch就像调试Python
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值