ImportError: cannot import name ‘prepare_model_for_int8_training‘ from ‘peft‘

最新推荐文章于 2024-05-08 21:17:05 发布
最新推荐文章于 2024-05-08 21:17:05 发布
阅读量1.4k 收藏 1
点赞数 5
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/quzheng90/article/details/137720892
版权
文章讲述了用户在导入GptModel时遇到的ImportError，原因在于peft库中的相应函数缺失。解决方法是发现textgen的版本不匹配，需在textgen的GptModel中手动将prepare_model_for_int8_training更改为prepare_model_for_kbit_training。
摘要由CSDN通过智能技术生成

from textgen import GptModel

报错：ImportError: cannot import name 'prepare_model_for_int8_training' from 'peft' 

尝试各种重装升级都不行，最后找peft里面居然没有prepare_model_for_int8_training. 使用的是prepare_model_for_kbit_training. textgen的版本没有跟上，需要手动在textgen gpt_model中修改 'prepare_model_for_int8_training'为prepare_model_for_kbit_training.

quzheng90
关注
ImportError: cannot import name ‘prepare_model_for_kbit_training‘ from ‘peft‘解决方案
weixin_43178406的博客
07-18 5万+
本文主要介绍了ImportError: cannot import name ‘prepare_model_for_kbit_training’ from 'peft’解决方案，希望能对使用peft的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
解决cannot import name ‘prepare_model_for_int8_training‘ from ‘peft‘ 错误
最新发布
数字人生
05-30 1754
出现“cannot import name ‘prepare_model_for_int8_training‘ from ‘peft‘”错误通常表示你尝试从 Python 包 peft 导入一个不存在的函数 prepare_model_for_int8_training。如果在尝试上述建议后问题仍未解决，你可能需要提供更详织的信息，例如 peft 包的版本号、安装方式或是你尝试导入该函数的代码片段，以便能够提供更具体的帮助。请检查你是否安装了正确的包，并检查你的环境路径是否包含了该包。
【亲测解决】TRL出现，ImportError: cannot import name ‘prepare_model_for_kbit_training‘ from ‘peft‘，SFTTrainer
不负如来不负卿
01-26 1639
【计划昵称全网统一，代码随想随记，知乎无法立即修改，，】微信公众号：leetcode_algos_life，代码随想随记小红书：412408155type=blog ，代码随想随记抖音【暂未开始，计划开始】：tian72530，代码随想随记知乎【暂未开始，计划开始】：happy001。
prepare_model_for_int8_training报错
a_blade_of_grass的博客
05-08 721
prepare_model_for_int8_training 在PEFT v0.10.0被弃用了，用 prepare_model_for_kbit_training 代替。
成功解决ImportError: cannot import name ‘PEFT_TYPE_TO_MODEL_MAPPING‘ from ‘peft.peft_model‘ (D:\ProgramD
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
10-31 1374
​ 成功解决ImportError: cannot import name 'PEFT_TYPE_TO_MODEL_MAPPING' from 'peft.peft_model' (D:\ProgramData\Anaconda3\Lib\site-packages\peft\peft_model.py) 目录 解决问题 解决思路 解决方法 解决问题 ImportError: cannot import name 'PEFT_TYPE_TO_MODEL_MAPPING' from 'peft.pe
论文阅读3:INT8量化训练
qq_40268672的博客
09-28 2260
一、Title 二、Abstract 三、Methods 四、Experiment
python - ImportError: Cannot import name ‘XXX’问题出现
young的博客
12-05 4万+
问题： python报错 - ImportError: Cannot import name ‘XXX’ 解决办法： 1.XXX版本更新。 2.自己的python文件与导入的包重名了，导致引入路径错乱，文件命名尽量不要用关键词。 ...
Python报错：ImportError: cannot import name ‘xxx‘ from ‘xxx‘
weixin_61908666的博客
10-21 4万+
Python报错：ImportError: cannot import name ‘xxx‘ from ‘xxx‘
ImportError: cannot import name model_fn
weixin_43056275的博客
04-02 2697
I slove this problem by sudo pip uninstall tensorflow_estimator then sudo pip install tensorflow_estimator==1.13.0,my tensorflow_gpu version is 1.13.1
ImportError: cannot import name ‘_ccallback_c‘ 解决方案
weixin_43178406的博客
04-10 5万+
本文主要介绍了ImportError: cannot import name ‘_ccallback_c’ 解决方案，希望能对使用Python的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
ImportError: cannot import name ‘secure_write‘ from ‘jupyter_core.paths‘解决方案
weixin_43178406的博客
11-18 5万+
本文主要介绍了ImportError: cannot import name ‘secure_write’ from 'jupyter_core.paths’解决方案，希望能对使用jupyter notebook的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
ImportError: cannot import name ‘soft_unicode‘ from ‘markupsafe‘解决方案
weixin_43178406的博客
11-16 5万+
本文主要介绍了ImportError: cannot import name ‘soft_unicode’ from 'markupsafe’解决方案，希望能对学习python的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
ImportError: cannot import name ‘is_torch_npu_available‘ from ‘transformers.utils‘解决方案
weixin_43178406的博客
01-25 4万+
本文主要介绍了ImportError: cannot import name ‘is_torch_npu_available’ from 'transformers.utils’解决方案，希望能对使用transformers的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
ImportError ：cannot import name xxxxxx 的三种类型的解决方法
热门推荐
Activewaste
06-28 19万+
网上关于这种问题的解决方案一大堆，但是绝大多数都是不适用，或者说解决不了问题，我根据别人所遇到的和我自己遇到的，对这个问题整理了一下，希望能解决这个问题。 一、缺少这个module或者func或者package 缺少python的各种package的话，就自己pip一下 根据路径去找，发现是否忘记导入了 二、命名问题 这个问题也是很难容易解决，找一下路径，对应一下两个name，改一下就行。 还有可能出现这种情况的是你使用的是别的官方的代码，版本升级，导致这个函数不用了，改成了另一个函数了，这个时候就要
ImportError: cannot import name
weixin_44285316的博客
07-04 1万+
ImportError: cannot import name 分析错误：引入错误，无法引入命名为**的库，说明是命名错误，并不是库不存在。 出现这种情况的原因一般有两种： 自己文件的命名与该库的名称重复。 库存在相互引用或者引用顺序错误。 玄学。 对于前两种情况，仔细一点应该能够发现，对于第三种情况我建议的解决方法：import * ...
（已解决）ImportError: cannot import name ‘ParamSpec‘ from ‘typing_extensions‘
qq_65507629的博客
10-11 6338
今天早上准备搭建一个pytorch防止突发状况，于是搭建了python3.9的环境，但是不小心把pytorch装在了默认环境（3.8），于是，我的电脑就有两个pytorch环境，今天晚上准备跑一下pytorch代码，结果，在import torch这里报错ImportError: cannot import name 'ParamSpec' from 'typing_extensions'，看网上的安装了typing_extensions的4.3.0版本，解决了。
解密Prompt系列6. lora指令微调扣细节-请冷静,1个小时真不够~
Gefangenes的博客
07-05 1829
上一章介绍了如何基于APE+SELF自动化构建指令微调样本。这一章咱就把微调跑起来，主要介绍以Lora为首的低参数微调原理，环境配置，微调代码，以及大模型训练中显存和耗时优化的相关技术细节标题这样写是因为上周突然收到了一周内上线一版chatbo的命令，原因无它领导们都刷到了《一个小时你也可以拥有ChatGPT》,《100美金训练ChatGPT》,《仅训练3小时超越ChatGPT》,《人人都可以拥有ChatGPT》。。。领导说人人都有了为啥我没有呀？！！真诚呼吁标题党们求手下留情，留人一命！
2023年的深度学习入门指南(12) - PEFT与LoRA
lusing的专栏
05-07 4180
大家都知道，大模型的训练需要海量的算力。其实，即使是只对大模型做微调训练，也是需要大量的计算资源的。 有没有用更少的计算资源来进行微调的方法呢？研究者研发出了几种被Hugging Face统称为参数高效微调PEFT(Parameter-Efficient Fine-Tuning)的技术。 这其中常用的几个大家应该已经耳熟能详了，比如广泛应用的LoRA技术(Low Rank Adapters,低秩适配)，Prefix Tuning技术，Prompt Tuning技术等等。
Python异常处理：ImportError: cannot import name 'XXX' from 'XXXX'
qq_40916793的博客
08-10 11万+
在python IDE Pycharm中出现导入模块异常 异常显示为：ImportError: cannot import name ‘Style’ from ‘openpyxl.styles’ 异常分析：主要是 .py 文件路径的问题，当在同一文件下，存在子文件内有同样命名的 .py文件时，编辑器就不能正确选择所要导入的是哪一个文件下的模块，因此出现异常 异常处理：正确规范文件以及类、方法、...
importerror: cannot import name 'prepare_model_for_kbit_training' from 'peft
01-25
这个错误通常发生在使用Python模块时，说明在导入名为'peft'的模块时，无法导入名为'prepare_model_for_kbit_training'的函数。这可能是因为名为'prepare_model_for_kbit_training'的函数在'peft'模块中不存在，或者...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值