ps:本文记录参与Datawhale10月“深入浅出Pytorch”的学习笔记
pss:该教程的GitHub地址:深入浅出PyTorch
哔哩哔哩视频地址:深入浅出Pytorch
PyTorch的简介与安装
1.PyTorch的简介
1.1 介绍
PyTorch是一个很著名的支持GPU加速和自动求导的深度学习框架,最开始是由Facebook的人工智能研究团队开发。因为其动态图机制符合思维逻辑,方便调试,十分适合于科研人员将想法迅速实现,所以在最近几年收到学术界的热捧。它基于Torch,底层由C++实现。
1.2 发展迅猛成为主流
该图源自网站Papers With Code,颜色面积代表使用该框架的论文公开代码库的数量,红色的是Pytorch,黄色的是TensorFlow。可以发现,从2017年9月到2021年9月这段时间里,红色部分正在随着时间的推移而逐渐地抢占黄色之前的占比,即PyTorch正在取代他的老大哥TensorFlow称霸学术圈。
ps: “听闻TensonrFlow占据工业界,Pytorch占据学术界”
1.3 优势
- 更加简洁,相比于其他的框架,PyTorch的框架更加简洁,易于理解。PyTorch的设计追求最少的封装,避免重复造轮子。
- 上手快,掌握numpy和基本的深度学习知识就可以上手。
- PyTorch有着良好的文档和社区支持,作者亲自维护的论坛供用户交流和求教问题。Facebook 人工智能研究院对PyTorch提供了强力支持,作为当今排名前三的深度学习研究机构,FAIR的支持足以确保PyTorch获得持续的开发更新。
- 项目开源,在Github上有越来越多的开源代码是使用PyTorch进行开发。
- 可以更好的调试代码,PyTorch可以让我们逐行执行我们的脚本。这就像调试NumPy一样 – 我们可以轻松访问代码中的所有对象,并且可以使用打印语句(或其他标准的Python调试)来查看方法失败的位置。
- 越来越完善的扩展库,活力旺盛,正处在当打之年。
2.PyTorch的安装
详见:DataWhale的深入浅出Pytorch教程之PyTorch的安装
记录一下我遇到的一些坑:
- Cmd输入
nvidia-smi
无反应的原因是未在自己电脑把C:\Program Files\NVIDIA Corporation\NVSMI
中的路径添加到环境变量 path 中。
实验室的辣鸡办公机无独显,只安装了CPU版本
3.PyTorch相关资源
- Awesome-pytorch-list:目前已获12K Star,包含了NLP,CV,常见库,论文实现以及Pytorch的其他项目。
- PyTorch官方文档:官方发布的文档,十分丰富。
- Pytorch-handbook:GitHub上已经收获14.8K,pytorch手中书。
- PyTorch官方社区:在这里你可以和开发pytorch的人们进行交流。