module ‘torch‘ has no attribute ‘autocast‘不是版本问题

已于 2024-01-24 20:48:11 修改
阅读量2k 收藏 15
点赞数 11
文章标签： python
于 2024-01-24 20:47:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_54101415/article/details/135831113
版权
文章讲述了在使用CUDA11.6和PyTorch1.9.0时遇到autocast属性缺失的问题，发现1.6.0及以上版本才支持。解决办法是将torch.autocast更改为torch.cuda.amp.autocast，提醒读者注意参数传递的细微差别。
摘要由CSDN通过智能技术生成

前提，cuda 11.6，pytorch 1.9.0，python 3.8
torch 没有autocast 这个属性，1.6.0版本以上的pytorch才有，我的版本是1.9.0，因为源代码说的是1.8.0以上都行，我自己试过很多个版本了，也升级过最新的，最新的又显示，我的cuda driver too old ，搞一下午没整出来
 

解决方法如下：

把

with torch.autocast(device.type,enabled=use_fp16):

改成：

with torch.cuda.amp.autocast(enabled=use_fp16):

我是偶然才发现这个问题的，无语了、、、、、

注意两句话参数不一样，传参的时候别搞错了

m0_54101415
关注
torch.cuda.amp.autocast()使用示例
qq_42061298的博客
08-16 9452
# 定义模型和优化器 model = Net().cuda() optimizer = optim.SGD(model.parameters(), ...) # 在训练最开始定义GradScalar的实例 scaler = GradScaler() for epoch in epochs: for input, target in data: optimizer.zero_grad() # 利用with语句，在autocast实例的上下文范围内，进行模型的前向推
AttributeError: module ‘torch.cuda.amp‘ has no attribute ‘autocast‘
fanre的专栏
04-08 1万+
参考： https://zhuanlan.zhihu.com/p/165152789 https://zhuanlan.zhihu.com/p/176998729 https://pytorch.org/docs/stable/amp.html https://pytorch.org/docs/stable/notes/amp_examples.html#amp-examples pytorch 版本有点旧，更新一下就好了，我直接更新到1.7 import torch print(torch._
PyTorch 基础学习（13）- 混合精度训练
fenglingguitar的专栏
08-21 1391
本文详细介绍了 PyTorch 中混合精度训练的基本概念、关键方法及其作用、适用场景，并提供了实际应用的代码示例。混合精度训练通过结合使用高精度（如 torch.float32）和低精度（如 torch.float16 或 torch.bfloat16）的数据类型，旨在提升模型训练的速度和效率，同时保持计算的准确性。核心工具包括 torch.autocast（用于自动选择合适的数据类型）和 torch.amp.GradScaler（用于防止梯度下溢）。
pytorch 使用amp.autocast半精度加速训练
weixin_42216799的博客
12-08 2万+
pytorch 使用autocast半精度加速训练 如何使用autocast？ 根据官方提供的方法， 答案就是autocast + GradScaler。 1，autocast 正如前文所说，需要使用torch.cuda.amp模块中的autocast 类。使用也是非常简单的： 如何在PyTorch中使用自动混合精度？ 答案：autocast + GradScaler。 1.autocast 正如前文所说，需要使用torch.cuda.amp模块中的autocast 类。使用也是非常简单的 from tor
torch.autocast 放在 forward 中
blueblood7的专栏
10-09 590
使用 DDP时，如果不是 每块 GPU 一个进程，torch.autocast 应该放在 forward 中。
Pytorch自动混合精度的计算：torch.cuda.amp.autocast
十年以上架构设计经验，专注于软件架构和人工智能领域，对机器视觉、NLP、音视频等领域都有涉猎
11-14 7969
PyTorch中的autocast功能是一个性能优化工具，它可以自动调整某些操作的数据类型以提高效率。具体来说，它允许自动将数据类型从32位浮点（float32）转换为16位浮点（float16），这通常在使用深度学习模型进行训练时使用。
【已解决】pytorch完成深度学习代码遇到错误AttributeError: module ‘torch‘ has no attribute ‘_six‘
qq_41594434的博客
11-08 3599
Pytorch编写代码过程中遇到的问题，记录解决方法
module ‘torch’ has no attribute ‘xxx’ 问题
热门推荐
w1290027的博客
07-02 3万+
import torch出现错误：module ‘torch’ has no attribute 'from_numpy’ 刚接触torch，好不容易安装成功（pip install torch1.5.1+cpu torchvision0.6.1+cpu -f https://download.pytorch.org/whl/ torch_stable.html），cpu版本，打开发现这样问题：module ‘torch’ has no attribute ‘from_numpy’ 心情很是糟糕，求助了淘
AttributeError: module 'torch' has no attribute 'autocast
12-12
出现"AttributeError: module 'torch' has no attribute 'autocast'"的错误通常是因为您使用的PyTorch版本过低，autocast是在PyTorch 1.6版本中引入的。您可以通过以下两种方法解决该问题： 1.升级PyTorch版本至1.6...
AttributeError: module ‘torch‘ has no attribute ‘__version__‘
qq_44855336的博客
05-13 1万+
AttributeError: module 'torch' has no attribute '__version__' 卸载pytorch，重新安装 或者换一个更高版本的pytorch
AttributeError: module ‘torch‘ has no attribute ‘inference_mode‘
集电极
04-04 5507
在运行论文源码是弹出AttributeError: module 'torch' has no attribute 'inference_mode' 异常 原因是pytorch版本问题 torch.inference_mode()在v1.9发布的，所以要保证pytorch版本在1.9以上。 pytorch 以前版本安装命令网站 https://pytorch.org/get-started/previous-versions/ ...
AttributeError: module 'torch' has no attribute 'autocast'
09-13
如果你仍然遇到 `AttributeError: module 'torch' has no attribute 'autocast'` 的错误，那可能是由于安装的 `torch` 版本过旧或有其他问题。你可以尝试更新 `torch` 到最新版本或重新安装 `torch` 来解决这个问题...
Pytorch出现错误Attribute Error: module ‘torch‘ has no attribute ‘_six‘
qq_44727287的博客
04-01 1万+
Pytorch 出现错误 Attribute Error: module ‘torch‘ has no attribute '_six'
完美解决，无需降版本❗❗❗报错FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated.
最新发布
m0_57010556的博客
10-16 1764
近期跑YOLO系列模型的时候遇到的一个问题，虽然不算是一个错误吧，但是运行的时候这个警告会刷屏，很烦人，强迫症受不了，必须解决了。
AttributeError: module ‘torch._C‘ has no attribute ‘_cuda_setDevice‘
weixin_38324954的博客
11-11 3721
环境：win10系统+torch(cpu) 问题：运行train.py文件时出现报错，如下图所示 解决： 由于我安装的pytorch是CPU版本，不是GPU版本，所以在运行文件时，需要在文件中将gpu_ids的默认值改为-1，修改后问题即可解决 参考博客： https://blog.csdn.net/weixin_39450145/article/details/104797786 ...
Pytorch出现错误AttributeError: module ‘torch‘ has no attribute ‘_six‘
weixin_47755296的博客
04-05 1550
重新安装torch stable（2.0.0）版本，问题解决。
AttributeError: module ‘torch‘ has no attribute ‘gesv‘
qq_45633812的博客
03-30 2396
我的torch版本是 >>> import torch >>> torch.__version__ '1.8.1+cpu' >>> 使用时一直出现AttributeError: module ‘torch’ has no attribute 'gesv’这个错误 这是因为torch1.8.1是最新版很多接口发生了变化下载旧版本可以解决这个问题。 pip install torch==1.1.0 torchvision==0.3.0 -f
module ‘torch‘ has no attribute ‘gesv‘
Yang__Xi的博客
08-09 1348
解决module ‘torch’ has no attribute 'gesv’ 在学习一篇博客https://zhuanlan.zhihu.com/p/66506214的时候, 在学校的服务器上运行它给的代码. 在运行这段代码的时候遇到了这个问题’torch’ has no attribute ‘gesv’ 之后我进入anaconda(我是在anaconda的虚拟环境中运行的),在envs->pt(我的虚拟环境名)->lib->python3.9(我依赖的是python3.9)-&gt
module 'torch' has no attribute 'autocast'
10-20
这个错误通常是由于使用的PyTorch版本过低导致的。autocast()是PyTorch 1.6版本中引入的，如果你的PyTorch版本...你可以尝试在代码中添加以下导入语句：from torch.cuda.amp import autocast。这应该可以解决这个问题。
Pytorch 中的 torch.cuda.amp.autocast 和 GradScaler 联合使用实现 AMP
Z2572862506的博客
01-31 933
Pytorch 中的 torch.cuda.amp.autocast 和 GradScaler 联合使用实现 AMP
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值