LLaVA部署报错：ImportError: cannot import name ‘LlavaLlamaForCausalLM‘ from ‘llava.model‘

于 2024-07-31 15:24:12 发布
阅读量384 收藏 1
点赞数 4
文章标签： 人工智能 笔记 计算机视觉 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Mugi_jiang/article/details/140824011
版权

报错：
ImportError: cannot import name ‘LlavaLlamaForCausalLM’ from ‘llava.model’

方法一：
更换llava.__init__中的代码：

# from .model import LlavaLlamaForCausalLM
from .model.language_model.llava_llama import LlavaLlamaForCausalLM

有可能会报下一个错误：
ImportError: /home/linjl/anaconda3/envs/sd/lib/python3.10/site-packages/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so:
undefined symbol:_ZN3c105ErrorC2ENS_14SourceLocationENSt7__cxx1112basic_stringIcSt11char_traitsIcESaIcEEE

那么就再用以下博客的方法：
http://t.csdnimg.cn/2QM6t

不行的话可以再参考该链接中的方法：
https://github.com/haotian-liu/LLaVA/issues/1101

同屿Firmirin
关注
  • 4
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
第一节 LLaVA模型安装、预测、训练详细教程
weixin_38252409的博客
11-02 1万+
本博客介绍LLava1.5多模态大模型的安装教程、训练教程、预测教程，也会涉及到hugging face使用与wandb使用。
LLaVA:visual instruction tuning
liguandong
10-27 2416
主要目标是有效利用预训练的llm和视觉模型的能力，llama作为llm，预训练的clip视觉编码器ViT-L/14，提供Zv，用一个简单的线性层来将图像特征连接到单词embedding空间，用一个可训练的投影矩阵w将Zv转换为语言embedding标记Hq，其维度与语言模型中的单词embedding空间相同。对应于LLaVA的两个训练阶段，LLaVA的训练数据也分为两部分：预训练阶段的数据和微调阶段的数据。llava当时的GPT4还不支持图像输入，因此这样的测评也不完全能够展示GPT4的能力。
ImportError: cannot import name ‘LlavaLlamaForCausalLM‘ from ‘llava.model‘ (/root/LLaVA/llava/model
weixin_38927376的博客
07-19 428
基本上还是flash-attn和环境不适配的原因，最初我的cuda版本是12.4，后来改成12.1，反复重新构建虚拟环境，采用官方给的代码进行安装，最后终于成功。文章参考链接https://github.com/haotian-liu/LLaVA/issues/1208。官网地址：https://github.com/haotian-liu/LLaVA。最后放一个pytorch官网链接，从里面可以看到pytorch和cuda对应版本。但根据我重装的经验，还是找个别人安好的环境对着版本配。
报错importerror: cannot import name ‘llamaforcausallm‘ from ‘transformers‘
qq_55736201的博客
05-17 697
【代码】报错importerror: cannot import name ‘llamaforcausallm‘ from ‘transformers‘
ImportError: cannot import name
weixin_44285316的博客
07-04 1万+
ImportError: cannot import name 分析错误：引入错误，无法引入命名为**的库，说明是命名错误，并不是库不存在。 出现这种情况的原因一般有两种： 自己文件的命名与该库的名称重复。 库存在相互引用或者引用顺序错误。 玄学。 对于前两种情况，仔细一点应该能够发现，对于第三种情况我建议的解决方法：import * ...
ImportError: cannot import name main解决方案（亲测有效）
xiaoxiaofengsun的博客
10-26 5608
Traceback (most recent call last): File "/usr/local/bin/pip", line 7, in <module> from pip import main ImportError: cannot import name main 今日首次使用阿里云服务 ubantu16.4, 出现了以上问题，大多数网友采用了前两种解决...
【无标题】
USLL_7263的博客
04-20 804
llava,flash-attn
书生浦语第二期实战营学习笔记（作业）（第五节课）
Ray_Tang_的博客
04-14 1073
当模型训练，微调，评测等系列工作完成，得到想要的模型后。将模型放到实际的使用环境中使用，这个过程叫做部署LMDeploy有以下特点：1.高效推理：continuous batch，blocked k/v cache，动态拆分和融合任务，张量并行，TurboMind高效的kenel设计2.量化结果可靠3.便捷的服务，完整的pipeline4.有缓存状态的推理。
ValueError: Unrecognized configuration class ＜class transformers_modules.Qwen-7B-Chat...解决方案
weixin_43178406的博客
08-08 5万+
本文主要介绍了ValueError: Unrecognized configuration class
多模态大模型升级：LLaVA→LLaVA-1.5，MiniGPT4→MiniGPT5
pku_langzi的博客
10-15 1563
LLaVA, MiniGPT4的改进版本：LLaVA-1.5, MiniGPT5。
Python_LLaVA扩展LLaVA与Phi3和LLaMA3 LLaVA LLaMA3.zip
05-24
Python_LLaVA是一个基于Python的库，用于处理和分析LLaVA（Local Linear Approximation of Variational Autoencoder）模型。LLaVA是一种变分自编码器（VAE）的变体，它通过局部线性近似来改进原始VAE的学习过程，...
ImportError ：cannot import name xxxxxx 的三种类型的解决方法
热门推荐
Activewaste
06-28 19万+
网上关于这种问题的解决方案一大堆，但是绝大多数都是不适用，或者说解决不了问题，我根据别人所遇到的和我自己遇到的，对这个问题整理了一下，希望能解决这个问题。 一、缺少这个module或者func或者package 缺少python的各种package的话，就自己pip一下 根据路径去找，发现是否忘记导入了 二、命名问题 这个问题也是很难容易解决，找一下路径，对应一下两个name，改一下就行。 还有可能出现这种情况的是你使用的是别的官方的代码，版本升级，导致这个函数不用了，改成了另一个函数了，这个时候就要
6、LLaVA
小白的博客
12-28 3378
LLaVA使用(LLaMA-2)作为LLMfϕ​⋅，使用预训练的CLIP图像编码器 ViT-L/14gXv​。输入图像Xv​，首先获取featureZv​gXv​。考虑到最后一层Transformer前后的网格特征，采用简单的线性层连接图像特征到词嵌入空间，即使用一个可训练的投影矩阵 W 将Zv​转换为语言嵌入令牌Hv​（与语言模型中词嵌入空间具有相同的维数）。简单投影方案是轻量级的，它允许快速迭代以数据为中心的实验。
【文生图系列系列】腾讯混元文生图大模型HunyuanDiT
陶将的博客
05-21 1476
本博文详细记录了腾讯混元文生图大模型HunyuanDiT的搭建和测试过程。
python报错：ImportError: cannot import name ‘AlbertModel‘ from ‘transformers‘
wukongbuku的博客
09-27 3741
Python报错
flash_attn_2_cuda 报错：undefined symbol
WGS.
06-06 1615
flash_attn_2_cuda 报错：undefined symbol
PaddleNLP：基于 LLaMA 和 Vicuna 的对话机器人
m0_63642362的博客
05-23 811
使用 PaddleNLP 和 Vicuna 预训练大语言模型参数实现基于 LLaMA 模型的对话机器人
LLaVA微调debug：ImportError: xxx/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol:
最新发布
Mugi_jiang的博客
07-29 401
flash-attn版本问题，到官网上下载对应自己cuda和torch版本的whl文件，再安装，注意我一开始下了这种TRUE的版本，出现了以上错误，改下FALSE版本后解决。注意是那个TRUE和FALSE的问题！
ImportError: cannot import name Mapping from collections (/usr/lib/python3.10/collections/__init__.py)
05-22
这个错误通常是因为你的代码中导入了 `collections.Mapping`，但是 `Mapping` 在 Python 3.10 中已经被移除了。如果你使用的是旧版本的代码，可能需要更新你的代码以适应最新的 Python 版本。 如果你需要使用类似 `Mapping` 的功能，可以考虑使用 `collections.abc.Mapping`。它是一个抽象基类，提供了 `Mapping` 的大部分功能，并且在 Python 3.10 中仍然可用。 你可以这样导入 `collections.abc.Mapping`： ``` from collections.abc import Mapping ``` 然后使用 `Mapping` 来代替 `collections.Mapping`。 如果你只是想简单地使用一个字典对象，那么直接使用 `dict` 就可以了。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值