module ‘torch‘ has no attribute ‘float8_e4m3fnuz‘

已于 2024-11-05 22:24:49 修改
阅读量5.8k 收藏 5
点赞数 5
文章标签： llm
于 2024-11-05 12:09:08 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44737922/article/details/143505541
版权

运行大模型的时候报错说
RuntimeError: Failed to import transformers.pipelines because of the following error (look up to see its traceback):
module ‘torch’ has no attribute ‘float8_e4m3fnuz’

这是因为我的torch版本只有2.1，太低导致的。升到2.3版本就能解决。、
这里还有个问题，直接升的话，可能cuda版本也变了，模型跑不起来。
可以在官方网站上，找到适配当前cuda的高等级torch。

对于opencompass评测来说，安装如下：

conda install pytorch==2.3.1 torchvision==0.18.1 torchaudio==2.3.1 pytorch-cuda=12.1 -c pytorch -c nvidia
AttributeError: module ‘numpy‘ has no attribute ‘float‘解决方案
weixin_43178406的博客
01-21 5万+
本文主要介绍了AttributeError: module ‘numpy’ has no attribute 'float’解决方案，希望能对使用numpy和pandas的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
解决错误：AttributeError：model ’torch.jit. has no attribute ‘unused‘
ZwaterZ的博客
06-13 2785
导入torchvision出现：AttributeError: module ‘torch.jit’ has no attribute 'unused’错误报错截图：网上查找资料得，错误原因说由于torch和torchvision的 版本导致的该错误。加载对应的pytorch和torchvision 本人使用torch== 1.14.0，需加载torchvision== 0.5.0...
‘torch‘ has no attribute ‘float8_e4m3fn‘
最新发布
weixin_47462620的博客
04-03 219
【代码】‘torch‘ has no attribute ‘float8_e4m3fn‘
vscode报错AttributeError: module ‘torch‘ has no attribute ‘float8_e4m3fn，但mobaxterm中可以正常跑
只想安静地敲个代码
01-30 1192
如果只在terminal中激活了正确的环境，这个位置选的环境不一样，没法在正确的环境中跑代码（我也不清楚为什么，实验表明如此）把这个位置选成正确的环境，在terminal中才能正确地跑代码；应该是vscode的一个bug。
RuntimeError: Failed to import transformers.models.roberta.modeling_roberta because of the following
weixin_44012667的博客
03-27 1118
升级PyTorch到1.10.0+并确保Transformers版本兼容。
解决AttributeError: module ‘torch‘ has no attribute ‘version‘问题
GongYouo_的博客
08-26 6079
使用pytorch搭建神经网络结构的过程中出现AttributeError: module 'torch' has no attribute 'version'报错，虽然报错说找不到attribute 'version'，但是print(torch.__version__)还是能输出torch版本号。然后查到一个解决办法说找不到attribute 'version'是因为‘__version__’前后是两个'_'，就开始找如何修改'version'变成‘__version__’。
在已经安装了torch的情况下，还是出现AttributeError: module ‘torch‘ has no attribute ‘__version__‘的解决办法
专注嵌入式~
11-25 5083
最快的方法直接重开。或者参考引文3。至于上述cuda版本可以参考自己的driver version在cmd中利用指令即可查看。nvidia-smi参考下表看那个cuda与自己的driver version契合。
module torch has no attribute empyt如何解决？
fwj_ntu的博客
01-31 4126
在学习pytorch时，按照官方文档进行联系，刚输入了一行代码，就出现了问题： import torch # construct a 5 * 3 matrix, uninitialized x = torch.empty(5, 3) print(x) 报了个错，说torch模块没有empty属性。搜索引擎上搜两个网页 https://discuss.pytorch.org/t/torch-em...
AttributeError: module ‘torch‘ has no attribute ‘__version__‘
qq_44855336的博客
05-13 1万+
AttributeError: module 'torch' has no attribute '__version__' 卸载pytorch，重新安装 或者换一个更高版本的pytorch
报错记录：AttributeError: module ‘torch‘ has no attribute ‘Tensor‘
m0_55196097的博客
09-18 8466
鸣谢下文博主：首先，如下所言，这是一个很让人无的错误：回Pychram一看，果然有个被命名为“torch”的文件夹：改名后：
报错：AttributeError: module ‘torch‘ has no attribute ‘frombuffer‘
Shirley000708的博客
07-25 2030
这类问题一般出现在load pretrained model 的时候，即.from_pretrained（）函数。已知‘frombuffer’属性只有在torch2.0之后才有。
AttributeError: module 'torch' has no attribute 'float8_e4m3fnuz'
01-29
当遇到 `AttributeError: module 'torch' has no attribute 'float8_e4m3fnuz'` 的时候，这通常意味着所使用的 PyTorch 版本不支持该属性或方法。此特定错误可能源于尝试使用尚未被当前安装的 PyTorch 版本实现的...
module 'torch' has no attribute 'float8_e4m3fn'
01-06
遇到错误提示 "module 'torch' has no attribute 'float8_e4m3fnuz'" 表明当前使用的 PyTorch 版本可能不支持此特定的数据类型或该数据类型的名称有误[^1]。 #### 验证安装版本 确认所用的 PyTorch 是否为最新稳定...
AttributeError: module 'torch' has no attribute 'float8_e4m3fn'
08-19
AttributeError: module 'torch' has no attribute 'float8_e4m3fn' 这个错误信息表示在尝试访问PyTorch模块中不存在的属性。在PyTorch的特定版本中，如果尝试使用 'float8_e4m3fn' 这个属性，但该属性在当前PyTorch...
module 'torch' has no attribute 'float8_e4m3fn'，在from diffusers import AutoencoderKL时报错
03-20
在较新的PyTorch版本中引入了`float8_e4m3fn`数据类型支持，而如果当前使用的PyTorch版本较低，则可能会遇到`module 'torch' has no attribute 'float8_e4m3fn'`这样的错误。此问题通常发生在尝试加载或使用依赖最新...
执行from transformers import pipeline报错
qq_52028313的博客
07-22 2033
查资料查了半天，首先是查看keras，我的问题是有两个不同版本的keras，后来我将两个全卸载了，包括keras的依赖，即开头为keras全卸载。之后重新安装keras，重新运行代码。之后运行还是报错module ‘keras.api._v2.keras’ has no attribute ‘Model’PS：我是不太明白为什么要导入keras，而且在我运行一次。语句之后，删掉该语句，独立运行。语句，成功解决问题。
AttributeError: module ‘torch‘ has no attribute ‘device‘ 错误处理办法
热门推荐
专注于AI领域前沿技术学习与分享：目标检测、图像修复、超分重建、AI工程化
01-22 5万+
device=torch.device("cuda" if torch.cuda.is_available() else "cpu"),AttributeError: module 'torch' has no attribute 'device'
【已解决】pytorch完成深度学习代码遇到错误AttributeError: module ‘torch‘ has no attribute ‘_six‘
qq_41594434的博客
11-08 4043
Pytorch编写代码过程中遇到的问题，记录解决方法
DeepSeek-FP8（E4M3）
TH_NUM的博客
03-10 409
FP8 是一种 8 位浮点数表示法，FP8 的详细介绍可以参考链接。FP8 采取 E4M3 和 E5M2 两种表示方式，其中 E 代表指数位（Exponent），M 代表尾数位（Mantissa）。在表示范围内，E4M3 更精准，而 E5M2 有更宽的动态范围。与传统的 FP16（16位浮点数）和 FP32（32 位浮点数）相比，它显著减少了存储，提高了计算吞吐。与INT8 的数值表示相比较， FP8 在 LLM 的训练和推理更有优势。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值