PyTorch
文章平均质量分 95
PyTorch是一个开源的Python机器学习库,基于Torch,用于自然语言处理等应用程序。PyTorch既可以看作加入了GPU支持的numpy,同时也可以看成一个拥有自动求导功能的强大的深度神经网络
Nosery
我必须十分努力,才能看起来毫不费力。
展开
-
PyTorch深度学习——数据输入和预处理
在使用pytorch构建和训练模型的过程中,需要经常把原始数据(比如图片、音频)转化为张量的格式,为了方便地批量处理图片数据,pytorch引入了一系列工具来对这个过程进行包装pytorch提供的一个用于数据加载的工具类,用于批量加载数据并为模型提供输入。它可以将数据集包装成一个可迭代的对象,方便地进行数据加载和批处理操作。原创 2024-05-03 10:56:59 · 1171 阅读 · 0 评论 -
PyTorch深度学习——线性回归、计算图和自动求导机制、损失函数和优化器
对pytorch来说,每个张量都有一个 grad_fn 方法,这个方法包含着创建盖章量的运算的导数信息,在反向传播的过程中,通过传入后一层的神经网络的梯度,该函数会计算出参与运算的所有张量的梯度,grad_fn 方法本身也携带有一个 next_function 属性,包含链接盖章量的其他张量的 grad_fn ,通过不断反向传播回溯中间张量的计算节点,可以得到所有张量的梯度,一个张量的梯度张量的信息保存在该张量的 grad 属性中。原创 2024-04-09 22:33:04 · 1083 阅读 · 0 评论 -
PyTorch深度学习——张量及其运算
最后一个和大小有关的函数是排序函数sort(默认是从小到大,如果需要从大到小排序,则需要设置参数 descending=True),同样是传入具体需要进行排序的维度,返回的是排序完的张量,记忆对应排序后的元素在原始张量上的位置,如果要知道原始张量还是那的元素沿着某个维度排第几位,只需要对应排序后的元素在原始张量上的位置进行再次排序,得到新位置的值即为原始张量沿着搞方向进行大小排序后的序号,和前面一样,关于排序和极值的函数,既可以是Pytorch的函数,也可以是张量的内置方法,两种方法的调用方法等价。原创 2024-04-05 12:26:06 · 962 阅读 · 0 评论 -
PyTorch深度学习——框架简介
在静态图的计算中,构建前向的计算操作的同时也会构建一个反向传播的梯度计算,这样前向的计算图构建完毕伴随着反向计算图的构建完毕,有了损失函数之后,就可以从损失函数所在的张量的边开始逐渐沿着反向计算图获取对应的梯度与静态图的构建相比,动态图在构建前向计算图的时候则是给每个输出张量绑定一个反向传播的梯度计算函数,当计算图达到最终的损失函数的张量的时候,直接调用该张量对应的反向传播函数,并不大根据前向计算图进行递归的反向传播函数的调用,最后到达输入张量,即可求得每个权重张量对应的梯度张量。原创 2024-04-02 16:54:15 · 917 阅读 · 0 评论 -
PyTorch深度学习——基本概念
具体表述为:这个大小为3的向量会和一个大小为 4×3 的矩阵做矩阵乘法,最终得到一个大小为4 的向量,对于此向量,需要对每个分量求一个激活函数,得到一个层隐藏层的值,同理,将第一层的值乘以 5×4 的矩阵,然后在得到的结构上面再加一个激活函数,就会得到一个大小为5 的向量,这就是第二层隐藏层的值,最后再经过一系列的线性变换和激活函数的作用下得到大小为2的向量,这个向量就是神经网络模型最后的输出值。张量的逐点计算是对输入张量的每一个分量进行相同的运算,最后输出一个和之前输入的张量形状相同的新张量。原创 2024-03-29 20:18:35 · 928 阅读 · 0 评论