- 博客(9)
- 收藏
- 关注
RSS订阅原创 用于树组织检索的递归抽象处理代码详解
用于树组织检索的递归抽象处理RAPTOR: RECURSIVE ABSTRACTIVE PROCESSING FOR TREE-ORGANIZED RETRIEVALRaptor
2024-06-16 20:48:17
218
原创 RAPTOR: RECURSIVE ABSTRACTIVE PROCESSING FOR TREE-ORGANIZED RETRIEVALRaptor:用于树组织检索的递归抽象处理
检索增强的语言模型能够更好地适应世界状态的变化，并融入长尾知识。然而，大多数现有方法仅从检索语料库中检索短的连续块，限制了对整个文档上下文的整体理解。我们引入了递归嵌入、聚类和总结文本块的新方法，从下向上构建了一个具有不同总结级别的树。在推理时，我们的RAPTOR模型从这棵树中检索，在不同抽象级别上集成跨冗长文档的信息。对照实验表明，与传统的检索增强LMs相比，递归摘要检索在若干任务上有显著的改进。在涉及复杂、多步骤推理的问答任务上，我们展示了最先进的结果;
2024-06-16 17:22:31
956
原创 BOT代码解读（Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models）
run_benchmarks.py文件，用来跑测试不同的任务的。bot_pipeline.py文件 也是文章的核心文件了。validate_results.py 评测结果。meta_buffer_utilis.py文件。test_templates.py 测试模板。
2024-06-16 15:55:34
237
原创 Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models思想缓冲:大型语言模型的思维增强推理
进一步的分析表明，我们的BoT具有卓越的泛化能力和模型鲁棒性，而平均只需要多查询提示方法(例如，树/思想图)的12%的成本。我们的方法有三个关键优势:(i)准确性提高:通过共享的思想模板，我们可以自适应地实例化处理不同任务的高级思想，从而消除了从头开始构建推理结构的需要，从而提高了推理准确性。具体来说，我们设计了元缓冲区，这是一个轻量级的库，包含一系列通用的高级思想(思想模板)，这些思想是从不同的问题解决过程中提炼出来的，可以跨任务共享。4. 我们对10个具有挑战性的推理密集型任务进行了广泛的实验。
2024-06-13 23:50:34
369
1原创 UnicodeDecodeError: ‘gbk‘ codec can‘t decode byte 0xac in position 24: illegal multibyte sequence
pip install 包的时候出现上述错误 ，发生在c盘的temp临时文件中，因为是临时的，所以找不到此文件。解决方法：vs code终端 输入。然后继续pip install。环境变量设置为1，表示使用。
2023-12-12 00:06:14
492
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人