ValueError Your setup doesn‘t support bf16gpu. You need torch=1.10, using Ampere GPU with cuda=11.0

最新推荐文章于 2024-08-08 16:35:30 发布
最新推荐文章于 2024-08-08 16:35:30 发布
阅读量2.3k 收藏 6
点赞数 1
文章标签： 深度学习 pytorch 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/be_humble/article/details/134293968
版权
文章提到在使用bf16进行深度学习训练时遇到错误，即使torch和CUDA版本符合要求，由于硬件限制（如v100和2080系列不支持bf16/GPU），必须在2020年后发布的3090系列及a100系列卡上运行，否则需切换回fp16模式。
摘要由CSDN通过智能技术生成

ValueError: Your setup doesn’t support bf16/gpu. You need torch>=1.10, using Ampere GPU with cuda>=11.0

当你使用bf16进行训练时，发现报错。而且自己torch和cuda 都满足条件，那么就是你的机器在2020年前，包括2019年的v100，以及2080系列都不满足。

只有3090系列以及a100系列卡满足。只能切换回fp16进行训练了

be_humble
关注
  • 1
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
如何快速安装Pytorch1.10+cuda11.1
m0_51465845的博客
11-23 7469
用官网的指令安装Pytorch很慢？ 这篇文章帮你快速安装Pytorch！！！！！！！！
python3.7解决最小二乘遇到ValueError:Expected 2D array, got 1D array instead: array=[5.].关于reshape和predict
01-20
Reshape your data either using array.reshape(-1, 1) if your data has a single feature or array.reshape(1, -1) if it contains a single sample. 翻译过来是： ValueError：预期为2D数组，改为获取1D数组： ...
AIGC在营销图片生成技术综述
liangwqi的博客
01-29 2700
AIGC在营销素材生成中技术介绍，和实例尝试
「Pytorch」BF16 & Mixed Precision Training
最新发布
绿色羽毛
08-08 795
在深度学习领域，神经网络的训练性能瓶颈常常出现在 GPU显存的使用上。主要表现为两方面：1. 单卡上可容纳的模型和数据量有限；2. 显存与计算单元之间的带宽和延迟限制了运算速度；为了解决显卡瓶颈的问题，涌现了不同的解决方法。模型参数量估计 为了更好地估算模型所要占用的显存，首先需要分析模型训练过程中有哪些部分需要消耗存储空间。在 "ZeRO: Memory Optimizations Toward Training Trillion Parameter Model" 中提出，模型在训练时，主要有两大部分的
安装lora+启动lora+训练一个model
1066196847的博客
06-05 1600
lora在安装、使用时候的一些bug记录
V100显卡无法支持dolly系列模型BP16运算及BP16与FP16模型转换解决方式
ego_grow的博客
04-27 3702
在使用V100显卡进行模型训练：模型数据在加载及实际运算过程中会由自身配置的参数设定进行加载和运算，使用huggingface的transfomer库中的AutoModel.from_pretrained(“model_name_or_path”)虽然能正常加载，但在运算时会进行报错，需要我们使用FP类型的数据在V100显卡上进行运算。例如：以dolly-v**系列模型举例，模型的本身数据类型为bfloat16，运算过程中也是这种格式，导致此模型无法再V100这种不支持BF类型的显卡上运行。
GPU passthrought setup for Nvidia V100 (Part II)
专注虚拟化的Linuxer
01-20 933
Part one: HOST Part two: Guest   Part Two  Guest Installment by virt-manager   1.1 Make sure you are installing a VM with UEFI mode 1.2 Make sure Your HOST is SLES12SP2 and so on 1.3 Still need...
GeForce RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch installation.
。
09-13 742
显卡是RTX3090，一开始装的cuda11.0和pytorch1.7.1，报如上的错误，将近搞了一周，了解到cuda和torch必须同时安装，翻到了这博客救了我。
idia连不上连接池_AI芯片：具有Nv​​idia Ampere架构的A100 GPU
weixin_26746861的博客
07-17 764
idia连不上连接池Nvidia GPUs have dominated the AI chip market for most of the decade. However, when Google’s TPU (Tensor Processor Unit) was publicly available in 2018 through the Google Cloud, it changed p...
关于Theano和Tensorflow多GPU使用问题
09-16
当使用多个GPU时，如果不正确地指定GPU环境，就可能会出现如`ValueError: Could not infer context from inputs`这样的错误。 **解决方案**： 1. **手动指定GPU**： - 在Theano中，可以通过设置环境变量`THEANO_...
关于 Python opencv 使用中的 ValueError: too many values to unpack
09-19
### 关于 Python OpenCV 使用中的 ValueError: too many values to unpack 在使用Python结合OpenCV进行图像处理时，可能会遇到一个常见的错误：“ValueError: too many values to unpack”。这个错误通常发生在尝试...
CUDA安装失败怎么办？
qq_43586192的博客
10-17 1356
解决方法：我将安装失败的单独进行了安装，就安装成功了 如下：
关于设置gpu在pycharm中运行torch深度学习无法检测到gpu问题
Fracures的博客
05-05 2214
使用命令配置gpu跑torch深度学习的包
Cuda 和 GPU版torch安装最全攻略，以及在GPU 上运行 torch代码
热门推荐
weixin_46833029的博客
11-21 2万+
安装cudnn，下载cudatoolkit，GPU torch安装及常用指令
CUDA安装失败，及解决方案
moonlightpeng的博客
04-01 5675
应该是显卡要求11.1才可以 如果要下载哪个版本直接在搜索
stylegan3:Setting up PyTorch plugin “bias_act_plugin“... Failed或“upfirdn2d_plugin“... Failed
地理信息系统、摄影测量与遥感、人工智能
02-23 6671
stylegan3: Setting up PyTorch plugin "bias_act_plugin"... Failed Setting up PyTorch plugin "upfirdn2d_plugin"... Failed
【模型加速部署】—— Pytorch自动混合精度训练
qq_43456016的博客
08-08 2655
torch. amp为混合精度提供了方便的方法，其中一些操作使用torch.float32（浮点）数据类型，而其他操作使用精度较低的浮点数据类型（lower_precision_fp）：torch.float16(half)或torch.bfloat16。一些操作，如线性层和卷积，在lower_precision_fp中要快得多。其他操作，如缩减，通常需要float32的动态范围。混合精度试图将每个操作与其适当的数据类型相匹配。
深度学习 —— 个人学习笔记14（ResNet、DenseNet）
Springer的博客
08-06 449
本文章为个人学习使用，版面观感若有不适请谅解，文中知识仅代表个人观点，若出现错误，欢迎各位批评指正。文中部分知识参考：B 站 —— 跟李沐学AI；
ValueError: Found array with dim 3. MinMaxScaler expected <= 2.
05-24
这个错误通常是由于你使用了一个三维数组作为输入，而 `MinMaxScaler` 期望的是一个二维数组或一维数组。你需要将数组转换为正确的形状。 如果你的数据是一个三维数组，你可以使用 `reshape()` 方法将其转换为二维数组。例如，如果你的数据是一个形状为 `(n_samples, n_timesteps, n_features)` 的三维数组，你可以使用以下代码将其转换为二维数组： ``` X_2d = X.reshape((n_samples * n_timesteps, n_features)) ``` 然后，你可以使用 `MinMaxScaler` 对转换后的二维数组进行缩放。 如果你的数据是一个二维数组，但是你仍然收到此错误，那可能是因为你的数组形状不正确。确保你的数组形状为 `(n_samples, n_features)` 或 `(n_samples,)`。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值