LLama-Factory运行异常,CUDA没安装,nvidia-smi的版本假的?

        在启动LLama-Factory时,一不小心哎呀,报错了,我都是按步骤安装的呀!

        开始正题:下面是我报的错,错的太多,也可以不用看,我下面解释。

RuntimeError                              Traceback (most recent call last)
<ipython-input-3-b727a954f97e> in <cell line: 1>()
----> 1 from unsloth import FastLanguageModel
      2 import torch
      3 max_seq_length = 2048 # Choose any! We auto support RoPE Scaling internally!
      4 dtype = None # None for auto detection. Float16 for Tesla T4, V100, Bfloat16 for Ampere+
      5 load_in_4bit = True # Use 4bit quantization to reduce memory usage. Can be False.

3 frames
/usr/local/lib/python3.10/dist-packages/unsloth/__init__.py in <module>
     62 
     63 # Fix up is_bf16_supported https://github.com/unslothai/unsloth/issues/504
---> 64 major_version, minor_version = torch.cuda.get_device_capability()
     65 SUPPORTS_BFLOAT16 = (major_version >= 8)
     66 def is_bf16_supported(): return SUPPORTS_BFLOAT16

/usr/local/lib/python3.10/dist-packages/torch/cuda/__init__.py in get_device_capability(device)
    428         tuple(int, int): the major and minor cuda capability of the device
    429     """
--> 430     prop = get_device_properties(device)
    431     return prop.major, prop.minor
    432 

/usr/local/lib/python3.10/dist-packages/torch/cuda/__init__.py in get_device_properties(device)
    442         _CudaDeviceProperties: the properties of the device
    443     """
--> 444     _lazy_init()  # will define _get_device_properties
    445     device = _get_device_index(device, optional=True)
    446     if device < 0 or device >= device_count():

 报错大意是在检测GPU时,没有发现CUDA。这怎么可能呢,我看了一下我的版本

        CUDA 12.0在这里,我就觉得——我又行了,后来搜了一下。

        注意:这个地方并不是你的电脑安装版本,而是你驱动最大能支持的版本。

        大家可以执行以下命令,查看你的cuda运行时版本,这才是我们真正使用的版本。

nvcc -V

       那我们如何更新我们的版本呢,根据你的需求和你电脑最大支持的版本,在官网重新下载CUDA Toolkit。

        官网地址

        详细的安装教程这里就不写了。安装成功后再执行,就会出现你最新安装的版本。

  • 3
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Llama-factory是一个由利马养殖而来的工厂。利马作为一种动物在许多地方被用于毛和肉制品的生产。利马的毛是非常珍贵和高质量的,可以用于制作织物、毛线和毛毯等。因此,利马养殖业成为了一个潜力巨大和有利可图的行业。 Llama-factory的主要目标是通过高效率和可持续的生产方式,生产出高质量的利马制品。工厂采用先进的技术和设备,提高生产效率和产品质量。同时,为了保护环境和动物福利,工厂也将注重科学农业和动物养殖实践。 工厂保证了从利马养殖到制品加工的全过程的可追溯性和质量控制。优质利马毛的选择、剪切和加工过程严格按照标准操作规程进行,确保最终产品的优质和安全。 Llama-factory还将致力于产品的创新和市场开拓。除了传统的利马制品,如毛线和毛毯,工厂还会开发出更多样化的产品,如利马织物和时尚配饰。通过与设计师和品牌的合作,工厂将推出独特且具有竞争力的产品,满足不同消费者的需求。 同时,Llama-factory也将关注社会责任和可持续发展。工厂将积极参与当地社区的福利和环保项目,为地方经济和环境的改善做出贡献。 总之,Llama-factory将在利马养殖和产品制造领域发挥重要作用。通过高质量的利马制品和可持续的生产方式,工厂将为消费者提供优质的产品,同时为当地社区和环境做出积极贡献。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值