李沐 softmax回归的简洁实现【动手学深度学习v2】

已于 2024-09-12 21:58:31 修改
阅读量917 收藏 7
点赞数 7
分类专栏： 李沐【动手深度学习】笔记 文章标签： 回归 深度学习 数据挖掘
于 2024-09-12 21:52:08 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_73177878/article/details/142152673
版权

通过深度学习框架的高级API能更方便地实现softmax回归模型。

本节同 :numref:sec_softmax_scratch，继续使用Fashion-MNIST数据集，并保持批量大小为256。

初始化模型参数

softmax回归的输出层是一个全连接层， 因此，为了实现我们的模型， 我们只需在Sequential中添加一个带有10个输出的全连接层。 同样，在这里Sequential并不是必要的， 但它是实现深度模型的基础。 我们仍然以均值0和标准差0.01随机初始化权重。

nn.Flatten()： PyTorch不会隐式地调整输入的形状。因此，在线性层前定义了展平层（flatten）来调整网络输入的形状。

最低0.47元/天 解锁文章
o(╯□╰)o亚比囧囧囧
关注
专栏目录
李沐 Softmax 回归 【动手学深度学习v2】
m0_73177878的博客
05-18 666
分类问题 我们从一个图像分类问题开始。 假设每次输入是一个2×2的灰度图像。 我们可以用一个标量表示每个像素值，每个图像对应四个特征𝑥1,𝑥2,𝑥3,𝑥4。 此外，假设每个图像属于类别“猫”“鸡”和“狗”中的一个。 接下来，我们要选择如何表示标签。 我们有两个明显的选择： 最直接的想法是选择𝑦∈{1,2,3}， 其中整数分别代表狗猫鸡{狗,猫,鸡}。 这是在计算机上存储此类信息的有效方法。 如果类别间有一些自然顺序， 比如说我们试图预测婴儿儿童青少年青年人中年人老年人{婴儿,儿童,青少年,青年
9李沐动手学深度学习v2/逻辑回归（softmax回归（分类））简洁实现
求道问术
08-30 363
9李沐动手学深度学习v2/逻辑回归（softmax回归（分类））简洁实现
动手学深度学习3.4 softmax回归-笔记&练习（PyTorch）
scdifsn的博客
04-25 1437
李沐老师《动手学深度学习（PyTorch版）》3.4 softmax回归-笔记及练习详解
【李沐】动手学深度学习 学习笔记
chenxiaowai_的博客
03-21 1万+
你好！这是【李沐】动手学深度学习v2-基于pytorch版本的学习笔记教材源代码安装教程（安装pytorch不要用pip，改成conda，pip太慢了，下载不下来）个人推荐学习学习笔记本节代码文件在源代码文件的chapter_deep-learning-computation/custom-layer.ipynb中不带参数的层下面的CenteredLayer类要从其输入中减去均值。要构建它，我们只需继承基础层类并实现前向传播功能。让我们向该层提供一些数据，验证它是否能按预期工作。带参数的层。
动手学深度学习v2-李沐 softmax简洁实现
MCARI的博客
11-05 68
代码部分。
动手学深度学习——softmax回归（原理解释+代码详解）
热门推荐
qq_38473254的博客
07-16 2万+
sum运算符：给定一个矩阵X，我们可以对所有元素求和（默认情况下）。也可以只求同一个轴上的元素，即同一列（轴0）或同一行（轴1）。对每个项求幂（使用exp）；对每一行求和（小批量中每个样本是一行），得到每个样本的规范化常数；将每一行除以其规范化常数，确保结果的和为1。
【动手学深度学习v2】深度学习，从零实现Softmax回归及其相关问题和代码详解——李沐老师的课程笔记
laownb的博客
08-07 358
1.关于调用d2l.train_ch3(net, train_iter, test_iter, loss, num_epochs, trainer)后，图像没有出现loss，那是你的loss = nn.CrossEntropyLoss(reduction='none')里面没有加上reduction='none'，或者是你的loss上天了，太大了，没能达到李沐老师设定的函数图像范围。深度学习，李沐老师的课程笔记——从零实现Softmax回归。对于深度学习，非常推荐李沐老师的课程，受益匪浅。
《李沐：动手学深度学习v2 pytorch版》第3章：线性神经网络(3.4-3.6 softmax回归)
weixin_44219441的博客
04-10 809
回想一下，实现softmax由三个步骤组成：1.对每个项求幂（使用exp）；2.对每一行求和（小批量中每个样本是一行），得到每个样本的规范化常数；3.将每一行除以其规范化常数，确保结果的和为1。
李沐动手学深度学习v2/总结3
求道问术
10-05 1222
编码过程 线性回归训练过程 深度学习代码过程 逻辑回归 展平层 MLP简介实现过程 数据处理 概念 似然函数 常用优化算法 问题 trick/正则化（惩罚项） 权重衰退 丢弃法 xi′={0, probablity pxi1−p, otherwise x'_i= \begin{cases} 0,\ probablity\ p \\ \frac{x_i}{1-p},\ otherwise \end{cases} xi′​={0, probablity p1−pxi​​, otherwise​
【动手学深度学习v2】深度学习-李沐老师课程中代码详解-softmax
08-09
【动手学深度学习v2】深度学习——李沐老师课程中代码详解——softmax
《动手学深度学习》softmax回归的简洁实现（李沐）
qq_45894227的博客
09-13 777
使用深度学习框架的高级API，我们可以更简洁地实现softmax回归
李沐 softmax回归的从零开始实现【动手学深度学习v2】
m0_73177878的博客
09-11 1027
在实现softmax回归模型之前，先简要回顾一下sum运算符如何沿着张量中的特定维度工作。给定一个矩阵X，我们可以对所有元素求和]， 也可以只求同一个轴上的元素，即同一列（轴0）或同一行（轴1）。如果X是一个形状为(2,3)的张量，我们对列进行求和， 则结果将是一个具有形状(3,)的向量。当调用sum运算符时，我们可以指定保持在原始张量的轴数，而不折叠求和的维度。这将产生一个具有形状(1, 3)的二维张量。0是对列求和，得到一个行向量；1是对行求和，得到一个列向量。实现softmax的三个步骤：对。
【python因果推断库15】使用 sci-kit learn 模型进行回归断点分析
kaggle expert，全球排名前1000，清华计算机研究生，兴趣算法工程
09-11 624
我们处理这个问题的一种方法是使用 `bandwidth` 参数。这将只对阈值附近的一定带宽内的数据进行拟合。如果 x 是连续变量，那么模型将只对满足。我们甚至可以走得更远，只为接近阈值的数据拟合截距。但很明显，这将涉及更多的估计误差，因为我们使用的数据较少。虽然我们可以看到这样做并不能很好地拟合数据，几乎肯定高估了阈值处的不连续性。
每天五分钟玩转深度学习PyTorch：获取神经网络模型的子网络模型
huanfeng_AI的博客
09-09 438
本文主要为第二步（模型搭建）和第六步（优化器）服务，因为子网络是网络模型的一部分，我们如何获取自网络，需要了解网络的模型结构，然后再优化器部分我们需要获取指定网络模型部分的模型参数，所以本节课程很重要。
机器学习与深度学习的区别
最新发布
警警的博客
09-14 1398
机器学习与深度学习
机器学习和深度学习的区别
jun778895的博客
09-10 888
机器学习：是人工智能的一个分支，它让计算机能够在没有明确编程的情况下，通过观察和分析大量数据来学习并做出预测或决策。机器学习起源于20世纪50年代，随着算法的不断发展，逐渐形成了多种经典算法，如决策树、支持向量机、随机森林等。深度学习：则是机器学习的一个子领域，它主要依赖于深度神经网络模型进行学习和预测。深度学习在21世纪初开始兴起，特别是随着计算能力的提升和大数据的普及，深度学习算法得以广泛应用，并取得了显著成效。
深度学习中常见的损失函数
技术宅学长的博客
09-12 689
不同的损失函数适用于不同的任务，回归任务中通常使用均方误差（MSE）和绝对误差（MAE），分类任务中使用交叉熵损失，物体检测和分割中使用IoU和Dice损失，而生成模型中使用对抗损失和重构损失。根据具体任务的特点选择合适的损失函数对于模型的性能有很大影响。
基础GAN生成式对抗网络（pytorch实验）
weixin_47696370的博客
09-10 492
采用MNIST数据集，如下是训练集中的一张图片。
李沐softmax回归简洁实现解释
09-27
李沐softmax回归的简洁实现使用了PyTorch框架中的torch.nn模块和torch.nn.functional模块。首先，需要使用torch.nn.Module类创建一个自定义模型。在这个模型中，使用torch.nn.Linear函数定义一个线性层，将输入特征映射到输出类别的概率。然后，使用torch.nn.CrossEntropyLoss作为损失函数，计算模型的分类误差。最后，使用torch.optim模块中的优化器函数对模型参数进行优化，以减小损失。 以下是李沐softmax回归简洁实现的代码示例： ```python import torch from torch import nn from torch.nn import init import torch.nn.functional as F # 定义模型 class SoftmaxRegression(nn.Module): def __init__(self, num_inputs, num_outputs): super(SoftmaxRegression, self).__init__() self.linear = nn.Linear(num_inputs, num_outputs) def forward(self, X): return self.linear(X) # 初始化模型参数 net = SoftmaxRegression(num_inputs, num_outputs) init.normal_(net.linear.weight, mean=0, std=0.01) init.constant_(net.linear.bias, val=0) # 定义损失函数 loss = nn.CrossEntropyLoss(reduction='none') # 定义优化器 optimizer = torch.optim.SGD(net.parameters(), lr=lr) # 训练模型 for epoch in range(num_epochs): for X, y in data_iter: # 前向传播 y_hat = net(X) l = loss(y_hat, y) # 反向传播 optimizer.zero_grad() l.backward() optimizer.step() # 使用训练好的模型进行预测 y_pred = net(X_test) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值