Input length of input_ids is 3572, but max_length is set to 2000. This can lead to unexpected behavi

最新推荐文章于 2024-04-30 21:03:59 发布
最新推荐文章于 2024-04-30 21:03:59 发布
阅读量1k 收藏 7
点赞数 8
文章标签： 语言模型 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/liuhongyue/article/details/135001357
版权

报错：Input length of input_ids is 3572, but max_length is set to 2000. This can lead to unexpected behavior. You should consider increasing max_new_tokens.

如果问的问题过多，产生的memory会越来越多，导致token数超过定义的数值，

无法对问题做出回答，因此memory选择对话缓存窗口储存，对话缓存窗口储存是通过ConversationBufferWindowMemory来实现交互的滑动窗口，窗口数k，例如设置k=1，表示只保留一个对话记忆。一般k=3或者5.

这样保证memory不会无线增大，memory的内容会作为prompt的内容所以导致token数会增加，超过指定数值无法进行回答，就像问的问题如果太长，比如超过10万字，超过LLM的最大token，无法进行回答一样。

由于漏洞描述数据比较多，之前设置的max_length=2000,过小，通过调整这个值后正常运行：

liuhongyue
关注
  • 8
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
input最大长度限制问题
kakaxiD的博客
12-10 1168
//可以 //没有效果 <input type=“number” οninput=“if(value.length>5) value=value.slice(0,5)” /> //js控制，可以 //tel类型，可以
beego 部署时出现Error：unexpected end of JSON input
01-07
GO beego 部署时出现Error：unexpected end of JSON input 文章目录GO beego 部署时出现Error：unexpected end of JSON input1、Note2、解决方法原理实现3、参考 beego Error: unexpected end of JSON input 1、Note 在日常的Api开发中，我们经常会使用Json来作为数据交互的方式，特别是前后端分离后 此时，如何在beego中获取 Request Body 的内容呢？ 官方配置 1、在配置文件中添加 copyrequestbody = true 2、在controller
新目标英语九年级Unit12_life_is_full_of_unexpected__sectionB1_精美学习课件ppt
11-23
新目标英语九年级Unit12_life_is_full_of_unexpected__sectionB1_精美学习课件ppt
新目标英语九年级Unit12_life_is_full_of_unexpected__sectionB2b_精美学习课件ppt
11-23
新目标英语九年级Unit12_life_is_full_of_unexpected__sectionB2b_精美学习课件ppt
vue项目编译时报 There are multiple modules with names that only differ in casing. This can lead to unexpec
weixin_42190844的博客
08-04 1284
今天拉取代码后，npm run dev时发现 会报warning There are multiple modules with names that only differ in casing. This can lead to unexpected behavior when compiling on a filesystem with other case-semantic. Use equal casing. Compare these module identifiers 大概意思就是 有多个模块
[AI]如何让语言模型LLMs流式输出：HuggingFace Transformers实现
热门推荐
weixin_44491772的博客
06-14 1万+
HugginFace Transforms是一个非常方便的库，集成了非常多SOTA的模型，包含：LLAMA, GPT, ChatGLM Moss，等。目前基本上主流的方案都是基于HugginFace Transforms这个框架实现的。以前如果要流式输出需要自己去改模型底层的推理逻辑。
React 代码运行中出现的报错信息
Sun_小杰杰哇
08-12 1407
报错信息 报错语句描述 Warning: Expected onClick listener to be a function, instead got a value of string type. 翻译：期望’ onClick ‘侦听器是一个函数，而不是得到一个’ string '类型的值。 错误代码 解决代码 说明 这种报错不会影响代码运行，但是在console中会提示有错误。建议解决报错。 后续未完,请继续关注,Thanks!☺ ...
2014年九年级英语Unit12_Life_is_full_of_the_unexpected.
11-23
2014年九年级英语Unit12_Life_is_full_of_the_unexpected.
TypeError: Unexpected keyword argument passed to optimizer: learning_rate 解决方法
01-21
TypeError: Unexpected keyword argument passed to optimizer: learning_rate 3.问题定位：  先看报错代码：大概意思是， 传给优化器的learning_rate参数错误。 模型训练是在服务器Linux环境下进行的，之后在...
Neural Style Transfer.rar_styletransfer. dll_tensorflow 风格迁移_tra
07-14
使用VGG19网络为基础，搭建新的网络模型，采用迁移学习的方法，使用已有权值参数，对输入图形进行风格变换
python复习（三）
qq_43710593的博客
04-29 496
类是一种面向。
SpringBoot中实现发送邮件
hac1322的博客
04-30 729
当你添加了spring-boot-starter-mail依赖后，Spring Boot会自动配置JavaMailSender实例，并根据application.yml文件中的属性来配置这个实例。你可以直接在需要发送邮件的地方通过@Autowired注解将JavaMailSender实例注入到你的类中，然后使用它来发送邮件。：首先，需要在你的pom.xml文件中添加Spring Boot的邮件发送器依赖。，简化了在Spring Boot应用程序中发送电子邮件的设置过程。Spring Boot的。
链表刷题集
yajunjiao的专栏
04-30 903
本文主要列举了一些刷的题，不多，有那么几道，也建议各位去建立自己的刷题集。积少成多。
【python】python基础1
七月尘上
04-29 502
注释：单行注释：#多行注释：“”“”“”批量注释：ctl+?,取消注释继续执行一次就行标识符命名规范：1、变量名、类名、函数名只能由数字、字母、下划线组成2、不能以数字开头3、严格区分大小写4、不能以关键字命名定义变量的方式：1、var1 = 值12、var1,var2=值1，值23、var1,var2=值1交换两个变量的值：输出命令解析：sep:输出内容以什么进行分割end:输出以什么结尾file:输出内容以文件形式输出到指定文件。
ROS学习教程--第一篇（初试ROS）
隔壁老姚的博客
04-29 606
上述命令，会在工作空间下生成一个功能包，该功能包依赖于 roscpp、rospy 与 std_msgs，其中roscpp是使用C++实现的库，而rospy则是使用python实现的库，std_msgs是标准消息库，创建ROS功能包时，一般都会依赖这三个库实现。该文件定义有关软件包的属性，例如软件包名称，版本号，作者，维护者以及对其他catkin软件包的依赖性。在自定义包basic_correspondence的src目录下创建person_talker.py，编辑以下内容。
superset部署与实践
m0_60125201的博客
04-29 936
本博客简要介绍了superset这个BI工具，使用两种方法来部署superset，并简单介绍了superset的使用。
AttributeError: module ‘numpy‘ has no attribute ‘float‘.的解决方法
chen_znn的博客
04-30 559
本文记录了AttributeError: module 'numpy' has no attribute 'float'.的解决方法
ROS 2边学边练（41）-- 使用基于tf2_ros::MessageFilter带标记（位姿、时间...）的数据类型
最新发布
DIANZI520SUA的专栏
04-30 1046
本篇主要介绍了tf2_ros::MessageFilter的一种应用案例，同时也涉及到了不同功能包之间通信的相关知识点。
non weighted histogram of read lengths
05-31
Sure, I can help you with that. A non-weighted histogram of read lengths is a graphical representation of the distribution of read lengths in a set of sequencing data. In this type of histogram, each read length is represented by a single count, regardless of the number of times that length occurs in the dataset. To create a non-weighted histogram of read lengths, you can follow these steps: 1. Collect the read length data from your sequencing dataset. 2. Determine the range of read lengths in your dataset. 3. Divide the range of read lengths into a series of bins, each representing a range of read lengths. 4. Count the number of reads in each bin. 5. Plot the bin counts on the y-axis and the bin ranges on the x-axis to create a histogram. Here's an example code snippet in Python to create a non-weighted histogram of read lengths using the Matplotlib library: ``` import matplotlib.pyplot as plt # Example read length data read_lengths = [100, 200, 300, 400, 500, 200, 300, 300, 100, 100, 200, 500, 500] # Define the bin ranges bins = range(0, 600, 100) # Count the number of reads in each bin bin_counts, _, _ = plt.hist(read_lengths, bins=bins, color='blue') # Plot the histogram plt.xlabel('Read length') plt.ylabel('Count') plt.title('Non-weighted histogram of read lengths') plt.show() ``` This code will create a histogram with five bins representing read lengths from 0-100, 100-200, 200-300, 300-400, and 400-500. The bin counts will be [4, 4, 3, 1, 2], respectively, and the resulting histogram will show the distribution of read lengths in the dataset.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值