RuntimeError: “triu_tril_cuda_template“ not implemented for ‘BFloat16‘

最新推荐文章于 2024-07-25 22:26:10 发布
最新推荐文章于 2024-07-25 22:26:10 发布
阅读量119 收藏
点赞数 1
文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_46371988/article/details/140637599
版权

真的会被LLaMa-Factory这个错误给气死。后来发现是我安装的transfomer版本太低了

首先按照网上帖子，把自己模型的config.json里面的torch_dtype改成了float16，然后，错误还是出现。后来把transformer的版本改到了4.40.0 就能正常运行了。

我的cuda是117，torch是1.13.0。

杰米的大鱼
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
加载Llama模型RuntimeError: “triu_tril_cuda_template“ not implemented for ‘BFloat16‘
Blue&boke
07-10 419
在推理llama大模型时，原始代码如下，在加载model时，配置torch_dtype = ‘auto’
PyTorch API：index_select 报错 RuntimeError: “index_select_out_cuda_impl“ not implemented for ‘Float‘
HuanCaoO的博客
02-22 1525
解决torch.index_select报错RuntimeError: "index_select_out_cuda_impl" not implemented for 'Float'
【已解决】RuntimeError: “nll_loss_forward_reduce_cuda_kernel_2d_index“ not implemented for ‘Float‘
BetrayFree的博客
10-20 7369
来进行训练模型加水印时报错RuntimeError: "nll_loss_forward_reduce_cuda_kernel_2d_index" not implemented for 'Float'，这个在网上并没有找到解决办法，有的也只是RuntimeError: "nll_loss_forward_reduce_cuda_kernel_2d_index" not implemented for 'int'，也就是说之前因为int类型不兼容出了问题，那这个float报错的原因是什么呢？
Python RuntimeError: thread.__init__() not called解决方法
09-22
然而，在使用`threading.Thread`进行多线程编程时，可能会遇到`RuntimeError: thread.__init__() not called`这样的错误。这个错误通常意味着你没有正确地初始化`threading.Thread`的实例。 在标题和描述中提到的...
解决docker报错Error response from daemon oci runtime error_centos安装docker
01-07
解决docker报错Error response from daemon oci runtime error
SIMATIC_WinCC_Runtime_Advanced_V16_安装包_链接地址baiduyun.txt
01-28
SIMATIC_WinCC_Runtime_Advanced_V16_安装包_链接地址
SIMATIC_WinCC_Runtime_Professional_V16_UPD3_更新包_链接地址.txt
03-24
SIMATIC_WinCC_Runtime_Professional_V16_UPD3_更新包
基于深度学习的商品推荐
weixin_42605076的博客
07-22 912
基于深度学习的商品推荐系统利用深度学习技术对用户的行为和商品的特征进行分析和建模，从而向用户推荐最相关的商品。这类系统在电子商务、社交媒体和内容推荐等领域中具有广泛应用。
昇思25天学习打卡营第21天|RNN实现情感分类
人工智能视觉分析算法学习实践和经验分享。
07-21 666
Mindspore框架循环神经网络RNN模型实现情感分类|（一）数据集准备Mindspore框架循环神经网络RNN模型实现情感分类|（二）RNN模型Mindspore框架循环神经网络RNN模型实现情感分类|（三）模型训练与推理tips:安装依赖库。
从零开始：构建基于深度学习的实时跌倒检测系统（UI界面+YOLO代码+数据集）
a871923942的博客
07-22 771
系统主要由前端UI、后端服务器和YOLO模型组成。用户通过UI上传视频，服务器调用YOLO模型进行检测，并将结果返回给用户。| 前端UI | <----> | 后端API | <----> | YOLO检测模型 |YOLO（You Only Look Once）是一种高效的实时目标检测模型。YOLOv5、YOLOv6、YOLOv7、YOLOv8均为其不同版本，提供不同的性能和速度。
基于深度学习的社交网络分析
weixin_42605076的博客
07-25 685
基于深度学习的社交网络分析（Social Network Analysis, SNA）是利用深度学习技术对社交网络中的结构、模式和用户行为进行分析和理解。这一领域广泛应用于用户推荐、情感分析、社区检测、信息传播和隐私保护等方面。
深度学习 —— 个人学习笔记6（权重衰减）
Springer的博客
07-22 384
本文章为个人学习使用，版面观感若有不适请谅解，文中知识仅代表个人观点，若出现错误，欢迎各位批评指正。文中部分知识参考：B 站 —— 跟李沐学AI；
05 循环神经网络
最新发布
weixin_43490087的博客
07-25 740
介绍了循环神经网络RNN的概念，以及简单循环神经网络SRN、长程依赖问题、RNN的架构及参数学习，还介绍了基于门控的循环神经网络和深层循环神经网络。
深度学习中的损失函数和网络优化方法
2301_77539454的博客
07-22 902
损失函数（Loss Function），又称为代价函数或目标函数，是衡量模型预测值与真实值之间差异的函数。它为模型训练提供了优化的方向，通过最小化损失函数来调整模型参数。梯度优化方法是深度学习中用于训练神经网络的核心算法，其目的是通过迭代调整网络参数，最小化损失函数，从而提高模型的预测准确性。梯度优化方法的重要性在于它们直接影响到模型的训练效率和最终性能。定义：梯度优化方法利用损失函数对模型参数的梯度信息来指导参数更新的方向和幅度。梯度是一个向量，其分量是损失函数对每个参数的偏导数，指向损失增加最快的方向。
【深度学习】yolov8-det目标检测训练，拼接图的分割复原
q742971636的博客
07-22 471
似乎这个任务是简单的，利用目标检测是否可以完成得好呢?
转置卷积方法
qq_58317297的博客
07-22 178
1、卷积神经网络层通常会减少（或保持不变）采样输入图像的空间维度（高和宽），另一种类型的卷积神经网络层，它可以增加上采样中间层特征图的空间维度， 用于逆转下采样导致的空间尺寸减小。（1）卷积做下采样(减少特征图的空间分辨率的过程)，转置卷积做上采样(增加特征图的空间分辨率)。#卷积输出尺寸是(x-h)/s+1，(x-w)/s+1。2、转置卷积（感觉就是卷积的反过来）也是一种卷积。实现基本的转置卷积运算。2、填充、步幅和多通道。
16现代循环神经网络—深度循环与双向循环
kaszxc的博客
07-22 431
深度循环神经网络使用多个隐藏层来获得更多的非线性性GRU、RNN、LSTM 在结构上都是相同的，只是隐状态 H 的计算方式有区别，所以它们加深神经网络的原理都是相同的在深度循环神经网络中，隐状态的信息被传递到当前层的下一时间步和下一层的当前时间步存在许多不同风格的深度循环神经网络，如长短期记忆网络、门控循环单元或经典循环神经网络深度循环神经网络需要大量的调参（如学习率和修剪）来确保合适的收敛，模型的初始化也需要谨慎双向循环神经网络通过反向更新的隐藏层来利用方向时间信息。
全面解析：构建基于深度学习的安全帽检测系统（UI界面+YOLO代码+数据集）
a871923942的博客
07-22 1367
系统主要由前端UI、后端服务器和YOLO模型组成。用户通过UI上传现场图像，服务器调用YOLO模型进行检测，并将结果返回给用户。| 前端UI | <----> | 后端API | <----> | YOLO检测模型 |YOLO（You Only Look Once）是一种高效的实时目标检测模型。YOLOv5、YOLOv6、YOLOv7、YOLOv8均为其不同版本，提供不同的性能和速度。
RuntimeError: "replication_pad2d_cuda" not implemented for 'Byte'
09-05
这个错误是由于在运行时发现了一个未实现的功能而引起的。具体来说，在使用 'replication_pad2d_cuda' 函数时，它不支持 'Byte' 类型的张量。 解决这个问题的方法是将输入张量转换为其他类型，如 'Float' 或 'Double'。你可以使用 `input_tensor.float()` 或 `input_tensor.double()` 来实现类型转换。 另外，你可能还需要检查你的代码是否正确地导入和使用了相关的库和函数，确保你正在使用正确版本的函数。 希望这些信息对你有所帮助！如果你有其他问题，请随时提问。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

杰米的大鱼

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值