Arcee’s MergeKit: A Toolkit for Merging Large Language Models

本文是LLM系列文章，针对《Arcee’s MergeKit: A Toolkit for Merging Large Language Models》的翻译。

摘要

开源语言模型的快速扩展提供了一个机会，可以通过组合这些模型检查点的参数来合并它们的能力。迁移学习是为特定任务微调预训练模型的过程，它的进步导致了大量特定任务模型的发展，这些模型通常专门用于单个任务，无法利用彼此的优势。模型合并有助于在不需要额外训练的情况下创建多任务模型，为提高模型性能和多功能性提供了一条很有前途的途径。通过保留原始模型的内在能力，模型合并解决了人工智能中的复杂挑战，包括灾难性遗忘和多任务学习的困难。为了支持这一不断扩大的研究领域，我们引入了MergeKit，这是一个全面的开源库，旨在促进模型合并策略的应用。MergeKit提供了一个可扩展的框架，可以在任何硬件上高效地合并模型，为研究人员和从业者提供实用性。到目前为止，开源社区已经合并了数千个模型，根据开放LLM排行榜的评估，创建了一些世界上最强大的开源模型检查点。仓库可在访问https://github.com/arceeai/MergeKit。

1 引言

2 背景和相关工作

3 库设计：关键设计原则

4 MergeKit的可扩展性

5 MergeKit的普及性和有效性

6 结论和未来工作

在本文中，我们介绍了M