关于Why is “FP16 is not supported on CPU； using FP32 instead“ on Ampere A1? #978解决

最新推荐文章于 2025-03-01 17:32:02 发布

兔子天天都在睡觉

最新推荐文章于 2025-03-01 17:32:02 发布

阅读量1.3k

点赞数 6

文章标签：语音识别

本文链接：https://blog.csdn.net/qq_42569234/article/details/134684721

版权

WHISPER使用的时候出现的问题，因为并不想动之前的pytorch环境，解决办法在参数中加入fp16=False即可

例如：result = model.transcribe("segment1.wav", fp16=False) #language

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

兔子天天都在睡觉

关注关注

6
点赞
踩
8

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

FP16、BF16、INT8、INT4精度模型加载所需显存以及硬件适配的分析

herosunly的博客

05-03

21万+

本文主要介绍了FP16、INT8、INT4精度模型加载占用显存大小的分析，希望对学习大语言模型的同学们有所帮助。文章目录 1. 前言 2. 模型加载显存占用大小 3. 不同精度是否与硬件适配

#error -- unsupport ed GNU version! gcc versions later than 12 are not supported!解决方案

最新发布

酒酿小圆子呀～

03-01

2765

浮点数是一种用二进制表示的实数，它由三个部分组成：sign（符号位）、exponent（指数位）和fraction（小数位）。不同的浮点数格式有不同的位数分配给这三个部分，从而影响了它们能表示的数值范围和精度。

[1306]whisper报错：UserWarning: FP16 is not supported on CPU； using FP32 instead

周小董

09-21

1072

参考：https://blog.csdn.net/shanchuan2012/article/details/131774957。WHISPER使用的时候出现的问题，因为并不想动之前的pytorch环境，解决办法在参数中加入。这个报错说的是whisper要使用cpu，而你音频是fp16的，cpu不支持。应该是搞别的时候把torch给搞成cpu版本的了。要点在于如何解决为什么whisper没使用GPU。打开：https://pytorch.org/按照这个方式在装一下就好了。

（新手亲测有效）bug解决：ValueError: Attempting to unscale FP16 gradients. 反复出现的问题。

weixin_41784510的博客

01-30

8864

在运用LoRA对ChatGLM-6B（FP16）大语音模型时，遇到了bug1：ValueError: Attempting to unscale FP16 gradients. 和 bug2： AttributeError: 'ChatGLMTokenizer' object has no attribute 'sp_tokenizer'. Did you mean: '_tokenize'? ，经过一波挫折后，终于解决，把解决的途径总结分享给大家。

V100显卡无法支持dolly系列模型BP16运算及BP16与FP16模型转换解决方式

ego_grow的博客

04-27

5784

在使用V100显卡进行模型训练：模型数据在加载及实际运算过程中会由自身配置的参数设定进行加载和运算，使用huggingface的transfomer库中的AutoModel.from_pretrained(“model_name_or_path”)虽然能正常加载，但在运算时会进行报错，需要我们使用FP类型的数据在V100显卡上进行运算。例如：以dolly-v**系列模型举例，模型的本身数据类型为bfloat16，运算过程中也是这种格式，导致此模型无法再V100这种不支持BF类型的显卡上运行。

cuda10 的 cuda_fp16.hpp(1691) 错误

鹏儿飞飞

10-20

1756

CUB使用时，cuda_fp16.hpp 错误解决方案

解决ES内存不足问题-OpenJDK 64-Bit Server VM warning: UseAVX=2 is not supported on this CPU, se

wangmiaoyan的博客

10-10

3789

ES启动不起来，查看日志发现报错 OpenJDK 64-Bit Server VM warning: UseAVX=2 is not supported on this CPU, setting it to UseAVX=1 解决办法：先查找jvm.options文件，然后找到ES的，将-Xms设置为-Xms512m，重启ES即可 [root@sit-jm-vcsms ~]# find / -name jvm.options ##查找jvm.options文件 find: ‘/proc/30725’:

出现 java: Annotation processing is not supported for module cycles 解决方法

码农研究僧的博客

05-29

4963

出现 java: Annotation processing is not supported for module cycles 解决方法

ERROR: PyAudio-0.2.11-cp37-cp37m-win32.whl is not a supported wheel on this platform.问题解决方法

LuniqueX的博客

02-19

4321

ERROR: PyAudio-0.2.11-cp37-cp37m-win32.whl is not a supported wheel on this platform. 安装 PyAudio时出现的问题。出现上述问题的原因是： ①python版本不匹配 ②电脑操作系统的位数不匹配解决方法：只要找到相对应的python版本和电脑操作系统位数即可。可以参考电脑操作系统位数查看：通过cmd查询自己电脑的操作系统是32位还是64位_LuniqueX的博客-CSDN博客 python版.

fp16和fp32，神经网络混合精度训练,PYTORCH 采用FP16,Libtorch采用FP16,神经网络混合精度三种避免损失，TensorRT模型转换及部署（一）

Hali_Botebie的博客

03-18

2万+

文章目录基础知识利用fp16 代替 fp32PYTORCH 采用FP16后的速度提升问题Libtorch采用FP16后的速度提升问题CPU上tensor不支持FP16tf 的调用如何在TensorRT上用半精度(FP16)对Caffemodel进行inference神经网络混合精度训练三种避免损失TensorRT模型转换及部署，FP32/FP16/INT8精度区分转换流程Parser如今支持：优化策略tensorRT 运行使用IExecutionContext进行推理的基本步骤：onnx使用python接口

transformers.TrainingArguments不支持AMD GPU使用bf16/tf32报错解决

Ander7的博客

11-14

926

问题出在transformers检测bf16/tf32用的是torch.version.cuda，AMD底层不支持，看了下。应该是广泛存在的情况（4.35.0以后bf16验证不再使用torch.version.cuda，tf32仍使用）

2021-10-22Pupu的问题记录|1

ZHANgPP_的博客

10-22

906

今天在跑代码时遇到的问题：查到的解决方案：下载安装 …还是不行

【无标题】

0110的博客

07-26

540

RuntimeError: CUDA error: device-side assert triggered 报错原因之一

Mac平台M1PRO芯片MiniCPM-V-2.6网页部署跑通

BothSavage

08-10

1664

解决flash_attn强制依赖问题解决bfloat16在mps无法使用问题看系统占用是没走mps，添加的环境变量也可以看出Sampling瞎回答，Beam Search回答很惊喜Beam Search处理视频4秒，在m1pro下，当前代码中需要230s左右ollama部署还在研究中…

Minifloats: FP Types for DNNs

maxzcl的博客

03-24

2718

https://en.wikipedia.org/wiki/Minifloat Incomputing,minifloatsarefloating-pointvalues represented with very fewbits. Predictably, they are not well suited for general-purpose numerical calculations. They are used for special purposes, most often in...

Server - PyTorch BFloat16 “TypeError: Got unsupported ScalarType BFloat16“ 解决方案

AGI

09-04

5990

由于 BFloat16 类型的指数部分和 float32 类型一致，可以更好地处理梯度消失和梯度爆炸的问题，以及在低精度下保持数值稳定性。PyTorch 提供一些工具和方法来使用 BFloat16 类型进行混合精度训练和推理，例如 torch.bfloat16 数据类型，torch.cuda.amp 模块，torch.nn.BFloat16Module 类等。

race is not supported on windows /amd64 解决方法

12-09

在Windows系统上使用Go语言进行交叉编译时，可能会遇到“race is not supported on windows/amd64”的错误。这个错误通常是因为Go语言的race检测工具在某些平台上不受支持。以下是一些解决方法： 1. **检查Go版本**：确保你使用的Go版本支持race检测工具。Go 1.1及以上版本支持race检测工具。可以通过以下命令检查Go版本： ```sh go version ``` 2. **使用正确的环境变量**：在Windows上交叉编译时，确保设置了正确的环境变量。例如，如果你要编译Linux上的可执行文件，可以设置GOOS和GOARCH环境变量： ```sh set GOOS=linux set GOARCH=amd64 go build -race main.go ``` 3. **避免使用-race标志**：如果race检测工具在目标平台上不受支持，可以尝试不使用-race标志进行编译： ```sh go build main.go ``` 4. **使用Docker进行编译**：你可以使用Docker容器来模拟不同的操作系统环境，从而避免Windows上的限制。例如，使用Linux容器进行编译： ```sh docker run --rm -v "$PWD":/usr/src/myapp -w /usr/src/myapp golang:1.17 go build -race main.go ``` 5. **更新Go语言工具链**：确保你的Go语言工具链是最新的，因为新版本可能会修复一些已知的问题和增加对新平台的支持： ```sh go get golang.org/dl/go1.17@latest go1.17 download go1.17 build -race main.go ``` 通过以上方法，你应该能够解决“race is not supported on windows/amd64”的错误。