eBay 关于生成式人工智能在软件开发效率方面的经验教训

最近易趣 披露的 关于应用的经验教训 生成式人工智能 在发展过程中。 eBay 的人工智能努力发现了提高开发人员生产力的三个关键途径：集成商业产品、微调现有产品 大型语言模型 (法学硕士），并利用内部知识网络.

采用商业人工智能解决方案，例如 GitHub 副驾驶 为 eBay 的开发者社区带来了可喜的成果。 在精心设计的 A/B 测试中，使用 Copilot 的开发人员展示了生产力的提高，其特点是代码接受率显着提高（通过 Copilot 遥测报告的代码接受率达到 27%），效率指标也显着提高：生成的代码准确率达到 60%。 Github Copilot 的引入还可以减少 PR（约 17%）和 Change Lead time（约 12%）。 然而，诸如提示大小限制之类的限制强调了在 eBay 庞大的代码库背景下定制解决方案的必要性.

通过对开源法学硕士进行后期培训和微调，例如 代码骆驼, 尤其是 Code Lllama 13B，eBay 推出了简化劳动密集型任务和减少代码重复的新途径。 eBayCoder 是一个根据组织的专有数据（代码库和文档）进行培训的定制模型，其开发展示了 LLM 定制在解决 eBay 生态系统特有的细微挑战方面的潜力。 这种方法对于一些以前耗时的任务（例如更新库以修复漏洞）非常有效.

鉴于 eBay 广泛且多样化的代码库，典型的商业大型语言模型可能只能访问与特定查询直接相关的数据和代码。 通常，这包括附近的文件、当前存储库和一些依赖库。 然而，此类模型可能会忽略由其他团队管理的替代内部服务或非依赖库，即使它们提供当前正在开发的相同功能。 因此，这通常会导致大量的代码冗余。 相比之下，经过微调的法学硕士可以访问更广泛的上下文，从而有可能减少代码重复的发生.

认识到简化内部知识访问的重要性，eBay 实施了内部 GPT 驱动的查询系统。 杠杆作用 检索增强生成 (RAG）技术，该系统与现有文档源无缝集成，为开发人员提供及时且相关的见解。 尽管响应质量偶尔会出现问题，但仍在不断改进 从人类反馈中强化学习 (RLHF）允许 eBay 随着时间的推移使 GPT 驱动的查询系统变得更好.

在技​​术进步的动态格局中，eBay 的旅程证明了人工智能集成的引入，为开发人员和组织带来了切实的成果.