pytorch学习笔记（一）

最新推荐文章于 2024-10-19 22:09:46 发布
最新推荐文章于 2024-10-19 22:09:46 发布
阅读量183 收藏
点赞数
文章标签： pytorch 神经网络 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44223902/article/details/109540834
版权
本文介绍了在深度学习中常用的非线性激活函数，包括Sigmod、Tanh、ReLU和Leaky ReLU。讲解了它们的作用、特点以及在实际应用中的优缺点，如Sigmod的梯度消失问题、ReLU导致的神经元死亡现象以及Leaky ReLU的解决方案。
摘要由CSDN通过智能技术生成

训练一个网络需要以下几步：

  • 构建数据集
  • 建立网络架构
  • 使用损失函数来评估模型
  • 使用优化算法优化网络架构结构
    线性层，y=wx+b
    俩层的体系结构可以看作是单独的不同的层，因此简单的叠加线性层不会帮助我们的算法学习到任何东西。为了解决这个问题，深度学习也提供了很多非线性层。
    一些比较常用的非线性函数；
  • sigmod
  • tanh
  • ReLU
  • leaky ReLU
    非线性激活是接受输入，然后应用数学变换并产生输出的函数

Sigmod

在这里插入图片描述
输出0-1之间的数，
输出0到1之间的值，之前很流行，现在逐渐不被使用了。其缺点是在趋向于无穷时，函数值变化很小，容易缺失梯度，不利于深层神经网络的反馈传

- Tanh

在这里插入图片描述
输出为-1到1，它也同样面对梯度饱和的问题当趋向于-1或者1时，他的输出是一零为中心的。

<

最低0.47元/天 解锁文章
weixin_44223902
关注
用pytorch写的LSTM的模型只学到了（-1,1）之间的部分
ZZZRRTG的博客
09-21 142
请大神指教为什么用pytorch写的LSTM的模型只学到了（请大神指教为什么用pytorch写的LSTM的模型只学到了（-1,1）之间的部分啊啊啊啊啊@TOC 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。 新的改变 我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我们增加了如下几点新功能，帮助你用它.
用Pytorch从0到1实现逻辑回归
qq_41387508的博客
07-22 1073
在机器学习/深度学习中，二分类也是经常遇到的任务，逻辑回归就是二分类中常用的模型。 本文简单回顾下逻辑回归，并且用Pytorch实现。 逻辑回归Logistic Regression 逻辑回归是机器学习中常用的一种二分类算法，常用于疾病预测等“非黑即白”的分类，简单说就是在使用逻辑回归的任务中，标签数据的Y值要么是0要么是1。 Sigmoid函数 逻辑回归，不管怎么着，还是一个回归，而我们是用它来进行分类的。回归一般的得到的是一个连续值，二分类需要的是0或者1（类别），那么怎么建立起连续值到类别的映射关系
PyTorch将张量归一化到[-1, 1]范围的方法
zffustb的博客
05-04 1278
【代码】PyTorch将张量归一化到[-1, 1]范围的方法。
python笔记4：数据归一化（0,1），归至（-1,1）
热门推荐
weixin_46248767的博客
12-13 3万+
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 python笔记4：数据归一化（0,1），归至（-1,1）一、pytorch里tensor数据归一化1.tensor数组全局归一化2.tensor数组指定维度归一化二、pytorch里tensor数据归至(-1,1) 一、pytorch里tensor数据归一化 1.tensor数组全局归一化 数学公式 将数组中的无论正负数值归一化到[0, 1]之间 ​ 具体操作如下： 定义函数，输入参数为
pytorch 基础
qq_40297851的博客
06-11 630
import torch import numpy as np # 随机初始化很大或者很小的数 m=torch.empty(5,3) print(m) # 随机初始化 0-1 范围的数 n=torch.rand(5,3) # 随机生成 标准正态分布 n=torch.randn(5,3) print(n) # 生出数据类型为long的零矩阵 x=torch.zeros(3,5,dtype=torch.long) y=torch.zeros(3,5).long() print(x) print(y) .
pytorch学习笔记一
m0_62465551的博客
07-21 712
PyTorch是一个开源的机器学习和深度学习框架，由Meta（原Facebook）人工智能研究院FAIR开发。它允许用户利用Python代码处理数据并编写深度学习算法，尤其擅长于GPU加速和动态神经网络。PyTorch的核心数据结构是张量，类似NumPy数组，但支持GPU计算。该框架提供了丰富的文档和支持社区，便于用户学习和解决问题。与TensorFlow相比，PyTorch的图是动态的，代码简洁，易于使用，尤其受到学术界和研究者的青睐。
pytorch学习笔记
欢迎来到我的学习笔记薄
10-11 796
PyTorch 是一个流行的深度学习框架，具有动态计算图的特性，广泛应用于研究和生产环境。它的灵活性、简单的接口和与 Python 的深度集成使其成为构建机器学习模型的理想工具。PyTorch 是一个灵活、强大的深度学习框架，广泛应用于研究和实际生产中。它提供了动态计算图、GPU 加速、易用的 API 和丰富的社区资源，适合从初学者到专家的各种需求。通过 PyTorch，你可以轻松构建、训练和优化各种复杂的神经网络模型。
PyTorch学习笔记一
weixin_50065828的博客
05-12 533
本文主要介绍了Dataset、DataLoader类的使用，以及tensorBoard、Transforms的使用
Pytorch学习笔记（1）
qq_43649937的博客
07-17 1237
pytorch python
笔记pytorch学习笔记
07-20
【PyTorch学习笔记概述】 PyTorch是Facebook开源的一款深度学习框架，它以其灵活性、易用性和强大的计算能力在学术界和工业界都受到了广泛的欢迎。本笔记将基于B站牛二大人的讲解，深入探讨PyTorch的核心概念、基本...
pytorch 学习笔记
06-27
pytorch 学习笔记
pytorch学习笔记一：pytorch学习的路线图
weixin_38410551的博客
09-18 914
pytorch学习笔记
Pytorch复习
weixin_64443786的博客
10-19 97
Pytorch
PyTorch 的 DataLoader 类介绍
最新发布
想都是问题，做才有答案～～
10-19 622
PyTorch 的 DataLoader 类介绍
PyTorch torch.nn.Embedding类介绍
qq_27390023的博客
10-19 709
嵌入矩阵中嵌入向量的总数，通常等于输入的词汇量或类别数量。例如，如果你有 1000 个不同的单词，则应设为 1000。: 每个嵌入向量的维度。例如，你希望每个单词被表示成 50 维的向量，则设置。: （可选）指定输入中用于填充的索引。如果输入包含填充索引，该索引对应的嵌入向量会被初始化为 0 且不会被训练更新。max_norm: （可选）如果设置，该参数会使得每个嵌入向量的范数不超过max_norm，从而强制嵌入向量有固定的范围。norm_type: 用于max_norm。
pytorch训练和使用resnet
TuringEvo专栏
10-19 152
【代码】pytorch训练和使用resnet。
完整的模型验证套路 pytorch
2302_79795489的博客
10-19 207
利用已经训练好的模型，给它提供输入。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值