Pytorch学习笔记
文章平均质量分 84
AI大模型前沿研究
软件工程硕士,机器学习&深度学习爱好者,忘记背后,努力面前,向着标杆直跑!
展开
-
『PyTorch学习笔记』如何快速下载huggingface模型/数据—全方法总结
如何快速下载huggingface模型/数据—全方法总结。原创 2023-12-07 15:46:47 · 3900 阅读 · 0 评论 -
『PyTorch学习笔记』分布式深度学习训练中的数据并行(DP/DDP) VS 模型并行
现代深度学习模型中的参数数量越来越大,数据集的规模也急剧增加。要在大型数据集上训练复杂的现代深度学习模型,必须使用多节点训练,否则会花费很长时间。在分布式深度学习训练中,人们可能总会看到数据并行和模型并行。在这篇博文中,将讨论这两种深度学习并行方法的理论、逻辑和一些误导点。原创 2023-11-30 16:23:06 · 1128 阅读 · 0 评论 -
『NLP学习笔记』Pytorch中的DNN训练流程介绍
Few-shot Learning技术介绍! 文章目录一. What is PyTorch?二. Overview of the DNN Training Procedure一. What is PyTorch?An open source machine learning framework.A Python package that provides two high-level features:1. Tensor computation (like NumPy) with strong原创 2021-10-27 23:19:34 · 1158 阅读 · 0 评论 -
『Python核心技术与实战』列表和元组,到底用哪一个?
列表和元组,到底用哪一个? 文章目录一. 列表和元组一. 列表和元组列表和元组,都是一个可以放置任意数据类型的有序集合。 在绝大多数编程语言中,集合的数据类型必须一致。不过,对于 Python 的列表和元组来说,并无此要求:# 列表l = [1, 2, 'hello', 'world'] # 列表中同时含有int和string类型的元素l[1, 2, 'hello', 'world']# 元组tup = ('jason', 22) # 元组中同时含有int和string类型的元素原创 2021-08-13 00:45:01 · 226 阅读 · 0 评论 -
『Pytorch笔记』Pycharm中使用CUDA_VISIBLE_DEVICES=0!
Pycharm中使用CUDA_VISIBLE_DEVICES=0! 如果使用多GPU运行程序(或者指定GPU的个数),可以直接使用CUDA_VISIBLE_DEVICES=0,1,2,3python xxx.py来设置该程序可见的GPU。当然也可以在程序开头设置os.environ["CUDA_VISIBLE_DEVICES"] = '0,1,2,3'来使用。如果在Pycharm中调试时,使用多GPU的话,除了直接在程序中设置os.environ["CUDA_VISIBLE_DEVICES"]..原创 2020-11-06 15:39:30 · 16323 阅读 · 5 评论 -
『Pytorch笔记』使用netron工具可视化Pytorch模型!
Pytorch索引与切片以及维度变换! 文章目录netron是微软小哥lutzroeder的一个广受好评的开源项目,地址:https://github.com/lutzroeder/NetroNetron supports ONNX (.onnx, .pb, .pbtxt), Keras (.h5, .keras), Core ML (.mlmodel), Caffe (.caffemodel, .prototxt), Caffe2 (predict_net.pb, predict_n..原创 2020-09-16 13:51:52 · 3345 阅读 · 4 评论 -
『Pytorch笔记3』Pytorch的Broadcast,合并与分割,数学运算,属性统计以及高阶操作!
Pytorch的Broadcast,合并与分割,数学运算,属性统计以及高阶操作! 文章目录一. Broadcast广播机制二. 合并与分割(merge or split)2.1. cat拼接2.2. stack创建新维度2.3. split按长度拆分和chunk按数量拆分三. 数学运算3.1. add/sub/mul/div加减乘除3.2. matmul矩阵相乘3.3. pow矩阵的次方以及...原创 2019-12-13 12:42:38 · 5306 阅读 · 3 评论 -
『Pytorch笔记2』Pytorch索引与切片以及维度变换!
Pytorch索引与切片以及维度变换! 文章目录一. 索引与切片1.1. 索引一. 索引与切片1.1. 索引indeximport torcha = torch.rand(4, 3, 28, 28)print(a.shape)print(a[0, 0].shape)print(a[0, 0, 2, 4])运行结果torch.Size([4, 3, 28, 28...原创 2019-12-12 23:10:44 · 814 阅读 · 0 评论 -
『Pytorch笔记1』Pytorch数据类型以及创建张量!
Pytorch基本知识! 文章目录一. 数据类型1.1. 如何判断数据的类型?1.2. 标量一. 数据类型Python和Pytorch类型(Pytorch是面向计算的GPU加速库,没有提供对String支持的)怎样去表示String呢?第1种方法:利用One-hot 编码进行表示 [0,1,0,...][0,1,0,...][0,1,0,...]第2中方法:Embeddin...原创 2019-12-11 21:32:09 · 612 阅读 · 0 评论 -
〖Pytorch笔记0〗Ubuntu16.04系统Anaconda下安装Pytorch(基于conda或pip)
目录 一. 基于conda安装1.1. 修改conda镜像源1.2conda安装Pytorch下载过慢解决办法1.3. 安装Pytorch二. 基于pip文件安装2.1. 配置镜像源2.2. 下载.whl安装文件2.3. 安装pytorch2.4. 测试三. Pytorch能做什么?3.1. GPU加速3.2. 自动求导3.3....原创 2019-01-15 19:34:29 · 12179 阅读 · 2 评论