【AI】《动手学-深度学习-PyTorch版》笔记(十五):网络中的层、块和参数

103 篇文章 66 订阅 ¥69.90 ¥99.00
本文介绍了PyTorch中如何使用nn.Sequential构建网络块,自定义块及其功能,包括前向传播、参数访问、初始化和参数共享。详细探讨了在何时需要自定义块,以及如何通过nn.init进行参数初始化,包括正态分布、常数和Xavier初始化方法。同时,展示了如何在模块嵌套中访问指定参数。
摘要由CSDN通过智能技术生成

AI学习目录汇总

1、什么是块?

在线性模型中,我们关注过单个神经元(单个神经网络的输入和输出);
在多层感知机中,我们关注过整层的神经元(前一层的输出作为后一层的输入);
如果将“多层感知机”视为一整体,称为“块”,可以将前一个块的输出作为后一个块的输入。

块(block)可以描述单个层或多个层组成的组件甚至整个模型本身。

2、nn.Sequential

PyTorch中可以通过nn.Sequential来定义一个块,它将层按照顺序串联起来。
例如,之前定义过的多层感知机:

net = nn.Sequential(nn.Linear(20, 256), nn.ReLU(), nn.Linear(256, 10))

nn.Linear、nn.ReLU都是层,它们被nn.Sequential串起来组成块
nn.Linear、nn.ReLU、nn.Sequential

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

郭老二

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值