llava部署出现pydantic.errors.PydanticSchemaGenerationError: Unable to generate pydantic-core schema for

最新推荐文章于 2025-01-21 18:00:41 发布
最新推荐文章于 2025-01-21 18:00:41 发布
阅读量892 收藏
点赞数 5
文章标签： 前端 数据库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_57144915/article/details/144242931
版权

在服务器上部署llava时，出现问题

 pydantic.errors.PydanticSchemaGenerationError: Unable to generate pydantic-core schema for <class 'starlette.requests.Request'>. Set `arbitrary_types_allowed=True` in the model_config to ignore this error or implement `__get_pydantic_core_schema__` on your type to fully support it.

pydantic与fastapi版本不兼容

修改pydantic版本没效果，llava需要pydantic为2.x版本

在github上找到了方法

https://github.com/jhj0517/Whisper-WebUI/issues/258

降级fastapi为0.112.4即可

pip install -U fastapi==0.112.4

丨Miku丨
关注
【图像复原】论文精读：Scaling Up to Excellence: Practicing Model Scaling for Photo-Realistic Image Restoration
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
04-19 2225
我们介绍了 SUPIR（缩放-UP 图像恢复），这是一种开创性的图像恢复方法，它利用生成先验和模型放大的力量。利用多模态技术和先进的生成先验，SUPIIR标志着智能和真实的图像恢复。作为SUPIR中的关键催化剂，模型缩放极大地增强了其能力，并展示了图像恢复的新潜力。我们收集了一个包含 2000 万个高分辨率、高质量图像的数据集进行模型训练，每个数据集都丰富了描述性文本注释。SUPIR提供了恢复文本提示引导的图像的能力，扩大了其应用范围和潜力。此外，我们引入了负质量提示来进一步提高感知质量。我们还开发了一种恢
TypeError: an integer is required (got type bytes)的解决方案
热门推荐
weixin_43178406的博客
05-18 10万+
本文主要介绍了TypeError: an integer is required (got type bytes)的解决方案，希望能对学习python的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
pydantic.errors.PydanticSchemaGenerationError: Unable to generate pydantic-core schema for ＜class ‘s
NLP与推荐算法
09-10 4209
Pydantic 无法生成 Request 类型的模式，因为它不是一个基本的 Python 类型，也没有实现 __get_pydantic_core_schema__ 方法来告诉 Pydantic 如何处理它。如果你想在模型中使用 Request 类型，但不关心其具体的验证逻辑，可以通过设置 arbitrary_types_allowed=True 来忽略这个错误。2. 复杂场景：如果需要对 Request 对象进行复杂的验证和处理，建议使用方案三，将请求处理和模型验证分离。方案一：允许任意类型。
yolov10的app.py报错Exception in ASGI application
FL1623863129的博客
10-06 1176
卸载gradio重新安装最新版本，我这边使用gradio==4.44.1版本可以解决问题。
Qwen2-VL部署pydantic.errors.PydanticSchemaGenerationError: Unable to generate pydantic-core schema for
blink182007的博客
09-12 3320
pydantic.errors.PydanticSchemaGenerationError: Unable to generate pydantic-core schema for . Set `arbitrary_types_allowed=True` in the model_config to ignore this error or implement `__get_pydantic_core_schema__` on your
pydantic.errors.PydanticImportError
weixin_44048937的博客
04-12 911
问题描述: raise PydanticImportError(pydantic.errors.PydanticImportError: `BaseSettings` has been moved to the `pydantic-settings` package. See。解决方法：将 from pydantic import BaseSettings 修改成 from pydantic_settings import BaseSettings。
使用langserve过程中报错：pydantic.errors.PydanticInvalidForJsonSchema: Cannot generate a JsonSchema for core
JluoMixing的博客
11-06 750
启用langserve时遇到报错：pydantic.errors.PydanticInvalidForJsonSchema: Cannot generate a JsonSchema for core_schema.PlainValidatorFunctionSchema ({'type': 'with-info', 'function': })解决办法
【bug】gradio ERROR: Exception in ASGI application pydantic.errors.PydanticSchemaGenerationError
集电极
10-10 1681
这是由于gradio版本与pydantic版本不匹配导致的错误。目前只测试了4.43.0，最新版本并没有进行测试，可以自行尝试。更新 gradio版本。
大模型项目部署时Gradio Web页面打不开或者打开用不了及pydantic.errors.PydanticSchemaGenerationError
2302_80261640的博客
09-25 860
在复现大模型demo时连接器和模型加载都没问题，但是gradio界面打不开或者打开后用不了。感觉应该是gradio的版本问题导致该文件缺少相关文件。还是一个版本的问题，新更新的版本没有解决相关兼容的问题。可以首先按照上面要求下载文件。下载好后按要求命名为。
distutils.errors.DistutilsError: Command ‘[‘/home/xx/anaconda3/envs/python37/bin/python3.7‘, ‘-
Xiayuan_的博客
07-07 2425
distutils.errors.DistutilsError: Command '['/home/xx/anaconda3/envs/python37/bin/python3.7', '-
【大语言视觉助手+LLaVA1.5】23.10.LLaVA-1.5改善后视觉语言大模型: Improved Baselines with Visual Instruction Tuning
进一寸有一寸的欢喜
03-21 3382
23.10 LLaVA1.5的改进： 1. 结构上，将视觉特征提取器从 CLIP-vit-L-14 (224x224图像输入)改为了CLIP-vit-L/336(将真实图像resize到**336x336**再输入编码器) 2. 结构上，视觉特征从线性映射（单个神经元），改进为多层告感知机（MLP） 3. 数据上，大量提高数据量，特别是视觉微调 158K到了560K。。 4. 训练上，LLaVA1.5可以使用Lora微调
LLaVA-Med: Training a Large Language-and-Vision Assistant for Biomedicine in One Day
qq_45453786的博客
01-07 628
0.摘要 0.1.Background：对话式生成式人工智能已显示出为生物医学从业者赋能的巨大潜力，但目前的研究主要集中在单模态文本上。 0.2.Issue：多模态对话式人工智能通过利用来自公共网络的数十亿个图像-文本对取得了快速进展，但这种通用领域的视觉语言模型在理解和对话生物医学图像方面仍然缺乏复杂性。 0.3.Method：文本提出了一种经济高效的方法来训练视觉语言对话助手，该助手可以回答生物医学图像的开放式研究问题。关键思想是利用从PubMed
大模型GUI系列论文阅读 DAY3续2：《WebVoyager : Building an End-to-End Web Agent with Large Multimodal Models》
feifeikon的博客
01-21 1294
近年来，大型语言模型（LLMs）的快速发展，如 ChatGPT 和 GPT-4（OpenAI，2023），激发了人们对基于 LLM 的自主代理（AutoGPT，2022）在复杂任务执行方面的极大兴趣（Qin 等, 2023；目前，大型多模态模型（LMMs），尤其是 GPT-4V(ision)（OpenAI，2023）和 Gemini（Team 等, 2023），表现出卓越的能力，能够整合复杂的视觉线索与文本信息。类似于人类浏览网页的方式，我们的代理将网页的视觉信息（截图）作为主要输入来源。
class node python_值错误：对象类型<class'pandas.core.frame.DataFrame'没有名为node2的轴
weixin_33850805的博客
02-15 2201
import pandas as pdimport numpy as npfrom datetime import datetimedata = {'date': ['1998-03-01 00:00:01', '2001-04-01 00:00:01','1998-06-01 00:00:01','2001-08-01 00:00:01','2001-05-03 00:00:01','1994-...
成功解决pydantic.errors.PydanticImportError: `BaseSettings` has been moved to the `pydantic-settings`
qq_21319187的博客
08-08 2118
github上看了一下项目测试用例，pydantic的' basessettings '已移动到' pydantic-settings '包中。我选择了方法2，降到了1.9.0版本，因为我的项目三方模块依赖pydantic模块，并不是我的项目直接依赖pydantic，方法2: 降低pydantic版本。方法1: 按照提示更改导入。
为什么会报错呀
gang61的博客
11-02 308
问题
pydantic.errors.PydanticImportError: `pydantic:ConstrainedStr` has been removed in V2.
qq_43985140的博客
07-04 5160
安装doccano时出现PydanticImportError错误。
doccano 解决 pydantic.errors.PydanticImportError: `pydantic:ConstrainedStr` has been removed in V2.
jieshenai的博客
07-10 2818
解决 doccano webserver 网页打不开 和 导出的数据集没有标注数据的问题
pydantic.errors.PydanticUserError: If you use `@root_validator`....
带鱼工作室的博客
11-24 8947
pydantic.errors.PydanticUserError: If you use `@root_validator`....
Prepare LLaVA-1.1-7B/13B checkpoint: please follow the LLaVA instruction to prepare LLaVA-1.1-7B/13B weights.
最新发布
03-09
<think>好的，用户想获取关于如何准备LLaVA-1.1-7B和13B模型权重的官方指导。我需要先回忆一下LLaVA项目的相关信息。根据用户提供的引用[^1]，官方文档提到了Model Zoo，里面应该包含所有公开的LLaVA检查点和使用权重的说明。首先，用户需要访问Model Zoo页面，找到对应的模型版本。 接下来，步骤可能包括克隆官方仓库，安装依赖项。用户需要确保环境配置正确，比如Python版本、PyTorch版本以及相关的库如transformers和accelerate。然后，下载预训练的视觉模型和语言模型，可能使用提供的脚本或直接下载链接。 用户可能需要合并视觉和语言模型的权重，这通常需要运行特定的脚本，比如官方提供的转换脚本。例如，使用`python -m llava.model.apply_delta`命令来合并基础语言模型和LLaVA的增量权重。这里要确保路径正确，避免文件找不到的错误。 此外，用户可能会遇到依赖项版本不兼容的问题，需要按照官方指定的版本安装。例如，使用特定版本的torch和transformers库。可能还需要注意CUDA版本是否匹配，以确保GPU加速正常。 最后，验证模型是否加载成功，可以通过运行示例代码或官方提供的测试脚本来检查。如果用户遇到问题，可能需要查阅项目的GitHub Issues或社区讨论，寻找常见问题的解决方案。 用户的需求可能不仅限于准备权重，还可能涉及如何微调模型或使用模型进行推理。因此，生成的相关问题可以包括如何微调LLaVA模型，或者在不同硬件上部署的注意事项，以及如何处理多模态输入等。确保回答准确引用官方文档，并引导用户正确操作，避免常见的配置错误。</think>关于LLaVA-1.1-7B/13B模型权重的准备，请按照以下步骤操作： ### 1. 环境准备 - 克隆官方仓库并安装依赖： ```bash git clone https://github.com/haotian-liu/LLaVA.git cd LLaVA pip install -e . ``` 注意需使用Python ≥3.8，PyTorch ≥2.0和transformers ≥4.31.0 ### 2. 权重下载 - **基础语言模型**： - LLaVA-1.1-7B：下载Vicuna-7B-v1.5权重 - LLaVA-1.1-13B：下载Vicuna-13B-v1.5权重 - **视觉模型**： 使用官方提供的CLIP ViT-L/14-336px视觉编码器 ### 3. 权重合并 使用官方提供的delta权重进行融合： ```bash python -m llava.model.apply_delta \ --base [path/to/vicuna_weights] \ --target [output_directory] \ --delta liuhaotian/llava-v1.1-7b-delta-v0 # 13B则替换为llava-v1.1-13b-delta-v0 ``` ### 4. 验证加载 ```python from llava.model import LlavaLlamaForCausalLM model = LlavaLlamaForCausalLM.from_pretrained("[output_directory]") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值