本文是LLM系列文章,针对《Code Comparison Tuning for Code Large Language Models》的翻译。
摘要
我们提出了代码比较调整(CCT),这是一种简单有效的代码大型语言模型(Code-LLM)调整方法,可以更好地处理细微的代码错误。具体来说,我们将比较的概念集成到指令调优中,无论是在token级别还是在序列级别,使模型能够识别代码中哪怕是最微小的偏差。为了将原始代码与包含手动添加的代码错误的错误版本进行比较,我们使用token级别偏好丢失进行详细的token级别比较。此外,我们将代码段组合在一起,创建了一个新的指令调优示例,用于序列级比较,增强了模型的错误修复能力。HumanEvalFix基准测试的实验结果表明,CCT在pass@1在不同的代码LLM中得分高达4分,广泛的分析证明了我们方法的有效性。
1 引言
2 方法
3 实验
4 结论
在这项工作中,我们通过在指令调优过程中集成代码比较,增强了代码LLM修复错误的能力。我们同时考虑token级别和序列级别的比较,以使代码模型对代码中的微小变化更加敏感。实验和