Look Before You Leap: Towards Decision-Aware and Generalizable Tool-Usage for Large Language Models

本文是LLM系列文章，针对《Look Before You Leap: Towards Decision-Aware and Generalizable
Tool

摘要

工具增强的大型语言模型（LLM）在获取最新知识和缓解幻觉问题时引起了广泛关注。如今，先进的闭源LLM（例如，ChatGPT）已经通过提示和上下文学习技术展示了令人惊讶的工具使用能力。为了增强开源LLM（如LLaMA）操作工具的能力，目前的工作重点是模板驱动或token触发的工具使用。然而，由于工具交互受到限制，前者阻碍了LLM处理不同用户查询的灵活性，而后者限制了在使用新工具时的可推广性，因为工具使用学习是基于特定任务和工具的数据集。为了缓解这些担忧，在本文中，我们提出了一个决策感知和可推广的工具使用框架（DEER）。具体来说，我们首先通过自动生成管道构建具有多个决策分支的工具使用样本，从而激发LLM在不同场景下的决策意识。同时，我们提出了一种新的工具采样策略，以增强LLM相对于看不见的工具的可推广性。大量实验表明，我们提出的DEER是有效的，并且在各种数据集上显著优于基线。

1 引言

2 相关工作

3 方法