CUDA VERSION 11.1 大模型微调可用的torch及其他包

已于 2024-06-21 15:23:54 修改
阅读量165 收藏
点赞数 4
文章标签： python 深度学习 人工智能 语言模型
于 2024-06-21 15:23:13 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42650571/article/details/139861768
版权

CUDA VERSION 11.1 大模型微调可用的torch及其他包


提供一个可行的cuda11.1 版本下可行的版本方案
CUDA11.1 可以用的对应的python 版本为3.8.19(3.8), torch版本为1.10.2+cu111, torchvision 版本为0.10.0+cu111, torchaudio 版本为0.10.2，accelerate 版本为0.31.0， transformers 版本为4.41.2

  1. transformers 如果版本版本过低会出现 Qwen2Tokenizer importError
  2. python3.6 最高能安装的transformers版本到4.1.8.0 不支持Qwen2的大模型微调
heymamacita
关注
  • 4
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
cuda_11.1+cudnn11.3安装包
06-21
CUDA（Compute Unified Device Architecture）是由NVIDIA推出的编程模型，它允许开发者使用C、C++、Fortran等高级语言直接编写高性能计算程序，并在NVIDIA的GPU（Graphics Processing Unit）上运行，极大地提升了...
cuda11.1和cudnn11.1百度网盘.txt
03-11
CUDA11.1版本和对应CUDNN百度网盘
大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes
编码时光
04-23 994
一、引言 二、机器学习中常用的数据类型 三、模型量化简介 四、简要总结 LLM.int8(): 大语言模型的零退化矩阵乘法 离群特征的重要性 MatMul 内部 0 退化是什么意思？ 比原始模型更快吗？ 五、Hugging Face `transformers` 集成细节 1、用法 2、`accelerate` 足矣 3、在 `accelerate` 设置设备要当心 4、总结 六、如何在 `transformers` 中使用它 硬件要求 安装 演示示例 - 在 Google Colab 上运行 T5 11B
cuda10.1-cuda11.0-cuda11.1各版本windows系统下载.zip
07-14
百度网盘提供，包含以下三种版本的cuda toolkit和对应的cudnn版本，适合windows10系统。 cudnn-10.1-windows10-x64-v7.6.4.38.zip cuda_10.1.243_426.00_win10.exe cudnn-11.0-windows-x64-v8.0.4.30.zip cuda_...
矩阵CUDA-11.1
02-16
1. 性能提升：CUDA-11.1对硬件和软件进行了优化，使得在矩阵运算等大规模并行计算任务上的性能得到显著提升，特别是在处理大型矩阵乘法和其他数学运算时。 2. 支持新的硬件：CUDA-11.1引入了对新一代NVIDIA Ampere...
TensorRT-7.2.3.4.Ubuntu-18.04.x86-64-gnu.cuda-11.1.cudnn8.1
02-08
这个资源"TensorRT-7.2.3.4.Ubuntu-18.04.x86_64-gnu.cuda-11.1.cudnn8.1.tar.gz"是专为Ubuntu 18.04系统设计的TensorRT 7.2.3.4版本，兼容CUDA 11.1和CuDNN 8.1。 首先，让我们深入了解一下TensorRT的核心功能和...
cv2读取和保存图片
m0_53291740的博客
07-12 121
cv2.imwrite('b\\img1.png',img)#b存在就可以保存进去。如果b存在，c不存在，程序不会报错，也不会保存图片。如果目录b不存在就会存到当前文件夹。
面试题 21：解释 Python 中的 help() 函数和 dir() 函数？
专注于全栈开发领域
07-10 753
在Python中，help()和dir()是两个非常有用的内置函数，它们可以帮助开发者更好地了解Python对象和模块。
Nginx七层（应用层）反向代理：UWSGI代理uwsgi_pass篇
jclee95的个人博客
07-10 1055
Nginx提供了多种应用层反向代理支持，包括proxy_pass、uwsgi_pass、fastcgi_pass和scgi_pass等。其中，proxy_pass指令可以接受一个URL参数，用于实现对HTTP/HTTPS协议的反向代理；uwsgi_pass用于代理到uWSGI应用服务器；fastcgi_pass用于代理到FastCGI服务器；而scgi_pass则用于代理到SCGI（Simple Common Gateway Interface）应用。这些指令使Nginx能够灵活地处理不同类型的后端服务和应
聊聊如何在内网下构建大模型微调环境
python1234567_的博客
07-12 694
LlamaFactory新版更新后，还是比较方便，只是说llamafactory-cli命令的确是有点蒙，踩个坑就好了。对于LlamaFactory微调来说，本身不难，毕竟都是配置；主要是在内网环境下的依赖包拉取安装是真麻烦，但其实也还好。走一遍的话，还是可以学到很多的。​。
leetcode--验证二叉搜索树
liulanba的博客
07-09 662
给你一个二叉树的根节点 root ，判断其是否是一个有效的二叉搜索树。有效 二叉搜索树定义如下：节点的左子树只包含 小于 当前节点的数。节点的右子树只包含 大于 当前节点的数。所有左子树和右子树自身必须也是二叉搜索树。示例 1：输入：root = [2,1,3]输出：true示例 2：输入：root = [5,1,4,null,null,3,6]输出：false解释：根节点的值是 5 ，但是右子节点的值是 4。提示：树中节点数目范围在[1, 104] 内。
已解决 javax.xml.transform.TransformerFactoryConfigurationError 异常的正确解决方法，亲测有效！！！
小明的Java问道之路
07-08 2468
已解决 javax.xml.transform.TransformerFactoryConfigurationError 异常的正确解决方法，亲测有效！！！
MySQL空间索引
你的指尖有改变世界的力量
07-10 259
空间类型是建立在空间类型字段上的。
一键安装ros及出现问题的解决方案
m0_58173801的博客
07-10 563
catkin_make时出现报错如下。
【python学习】闭包的定义与特点，以及一些常用场景的使用
m0_49243785的博客
07-11 1020
闭包是一个函数，闭包让你可以在一个内层函数中访问其外层函数的作用域，可以使用闭包进行模块化代码和封装代码的操作，从而提高效率。
华为910b推理Qwen1.5-72b
weixin_41549308的博客
07-12 599
910b部署推理大模型
AIGC专栏13——ComfyUI 插件编写细节解析-以EasyAnimateV3为例
最新发布
Bubbliiiing的学习小课堂
07-13 1640
最近在给EasyAnimateV3写ComfyUI的工作流，以方便别人测试。学习了ComfyUI的基本操作，也看了一下别人是怎么写的，自己也折腾了一下。在人工智能艺术创作的领域里，Stable Diffusion 凭借其开放源代码的特性，吸引了众多开发者与艺术家的目光，并且因为强大的社区支持而展现出强大的影响力。Stable Diffusion 的两大主流创作平台分别是 Stable Diffusion WebUI 与 ComfyUI。
编程学单词：delta(希腊字母Δ/δ)，差值表示
m0_57158496的博客
07-11 1096
结语：代码编写中，用“通用”字符命名相应变量，是一个不错的好习惯。其一，不用注释，望文生义，简单明了；其二，代码书写形式风格“标准”统一，方便维护和流转。说明：今天我在堆叠代码时发现有delta样子的单词存在，修习之，对代码书写大有裨益。从今以后，我遇到类似的单词，都将在学习笔记中标识、分享。😋回页目录。
Java进阶篇之Fork/Join 框架：并行处理的艺术
小码农的博客
07-09 680
在多核时代，如何有效利用多核处理器的并行计算能力成为了软件开发中的重要议题。Java 7引入的Fork/Join框架正是为此目的而生，它提供了一套高度优化的并行任务分解和合并机制，极大地简化了并行编程的复杂度，同时提升了应用程序的性能。本文将全面剖析Fork/Join框架的原理、使用方法及最佳实践。Fork/Join框架的核心在于将一个大任务分解（Fork）成多个较小的子任务，并行执行这些子任务，然后将子任务的结果合并（Join）起来形成最终结果。
cuda_11.1 python3.9.7 对应的torch，torchvision，torchaudio 哪个版本
05-16
根据官方文档，cuda_11.1 对应的是以下版本： - PyTorch 1.9.0+ - torchvision 0.10.0+ - torchaudio 0.9.0+ 因此，你可以安装 PyTorch 1.9.0 或更高版本，torchvision 0.10.0 或更高版本，torchaudio 0.9.0 或更...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值