【论文】OSS-Instruct——EvalPlus榜单SOTA模型Magicoder

已于 2024-03-02 21:08:24 修改
阅读量1.1k 收藏 15
点赞数 22
文章标签： 自然语言处理 算法 人工智能
于 2024-03-02 21:07:17 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hqc87v5/article/details/135830284
版权
OSS-Instruct利用大型语言模型从开源代码中生成多样化的编码任务，以此改进LLM的指令跟踪能力。Magicoder通过OSS-Instruct数据集微调，在代码生成任务上展现出优于其他SOTA模型的性能，尤其在Python和多语言环境中。实验表明，数据的真实性和多样性对于模型性能提升至关重要。
摘要由CSDN通过智能技术生成

 arxiv论文地址

EvalPlus Leaderboard

GitHub - ise-uiuc/magicoder: Magicoder: Source Code Is All You Need

目录

​编辑

背景

OSS-Instruct

具体例子

数据处理

实验

python代码生成

小语种生成

deepseek做base

语言分布的消融实验

直接用开源代码进行fine-tune

背景

现有的数据生成办法可以有效地提高LLM的指令跟踪能力，但它们依赖于小范围的预定义任务或启发式方法。而这样的方法会显著地继承LLMs和预定义任务中固有的系统偏差。

Self-Instruct仅依靠21个种子任务，使用相同的提示模板生成新的代码指令。

Evol-Instruct 以Code Alpaca为种子，仅依靠5种启发式算法对数据集进行演化。

OSS-Instruct

如图所示，OSS - INSTRUCT利用强大的LLM，通过从开源中收集的任意随机码片段中获得灵感，自动生成新的编码问题。【直接用开源代码进行fine-tune会对模型性能产生负面影响】在这个例子中，LLM从来自不同功能的两个不完整的代码片段中得到启发，并设法将它们联系起来，形成一个现实的机器学习问题。得益于"无限"的开源代码，OSS - INSTRUCT可以通过提供不同的种子代码片段直接产生多样化、逼真和可控的代码指令。

根据从GitHub中收集到的一些种子代码段，提示一个LLM （例如, ChatGPT）产生一个编码问题及其解决方案。种子片段提供了生成的可控性，并鼓励LLM创建能够反映真实世界编程场景的多样化编码问题。

源码中提取种子片段的代码

最低0.47元/天 解锁文章
hqc87v5
关注
oss-fuzz：OSS-Fuzz-开源软件的连续模糊测试
02-05
OSS-Fuzz：开源软件的连续模糊测试 是一种用于发现软件编程错误的众所周知的技术。 其中许多可检测到的错误（例如）可能会带来严重的安全隐患。 通过部署 Google已经发现了的安全漏洞和稳定性错误，我们现在希望与...
【大模型 数据增强】Evol-Instruct 应用：扩充大模型复杂性数据的多样性
Debroon
01-31 2423
如何通过Evol-Instruct方法生成多样化和复杂度高的指令，以提升大型语言模型（LLMs）的性能。问题与解法组成：子问题1：生成复杂度更高的指令。子解法1：Instruction Evolver。利用LLM的能力，通过深度演化和广度演化的策略来生成更复杂的指令。深度和广度演化可以从不同角度增加指令的复杂性，增强LLM处理多样化任务的能力。子问题2：从深度方面增加指令复杂性。子解法2：深度演化操作，包括增加约束、深化、具体化、增加推理步骤和复杂化输入。
【self-instruct方式生成语料代码实战】
dzysunshine的博客
04-27 7522
2023年3月14日，斯坦福发布了，该模型是对Meta的LLaMA &B进行了微调，且只花费了不到600美元。其中，微调过程：在8个80GB A100上训练了3个小时，不到100美元；而微调所用数据是使用OpenAI的API，通过self-instruct方式生成的52K指令数据，花费了500美元。self-instruct是一种将预训练语言模型与指令对齐的方法。可以通过模型自己来生成数据，而不需要大量的人工标注。
EvalPlus：提升LLM4Code评估的严格性与准确性
gitblog_00721的博客
08-15 260
EvalPlus：提升LLM4Code评估的严格性与准确性 evalplusEvalPlus for rigourous evaluation of LLM-synthesized code项目地址:https://gitcode.com/gh_mirrors/ev/evalplus 项目介绍 EvalPlus是一个专为LLM4Code设计的严格评估框架，旨在通过提供比原始HumanEval和M...
每日一看大模型新闻（2023.12.19）Kyligence发布数据和分析领域大模型司南；OpenAI发布GPT-4使用指南，提供六大策略；OpenAI公布ChatGPT安全框架，跟踪风险并建立严格
liuxiuxiu3的博客
02-03 2510
元象宣布开源XVERSE-65B-2底座版，XVERSE-65B-2通过综合优化器状态和学习率策略进行Continual Pre-Training，总训练token量达3.2万亿。模型支持40多种语言，上下文窗口为16K，在六个维度11项标准中八成超越GPT3.5。，是国内最早开源的650亿参数免费商用模型。，为生态贡献“文理兼修、大有可为”的大模型。：UIUC和清华合作推出的Magicoder，在代码生成领域以不到7B参数媲美顶级模型，并全面开源其代码、权重和数据。
【网安AIGC专题10.19】论文4：大模型（CODEX 、CodeGen 、INCODER ）+自动生成代码评估：改进自动化测试方法、创建测试输入生成器、探索新的评估数据集扩充方法
定期分享我的发现和想法，感谢你的陪伴和支持
10-25 6158
介绍了EvalPlus，一个严格的程序合成评估框架，以自动化测试生成为驱动。EvalPlus将基于LLM（使用ChatGPT进行提示）和基于变异的输入生成相结合，以获得多样化的测试输入集，以准确评估LLM生成代码的功能正确性。创建了HUMANEVAL+，通过增加高质量和自动生成的测试输入来扩展流行的HUMANEVAL基准测试。通过测试套件缩减，创建了比HUMANEVAL+小47倍的HUMANEVAL±MINI，同时保持几乎相同的测试效果。
EvalPlus 开源项目教程
gitblog_01080的博客
08-13 367
EvalPlus 开源项目教程 evalplusEvalPlus for rigourous evaluation of LLM-synthesized code项目地址:https://gitcode.com/gh_mirrors/ev/evalplus 项目介绍 EvalPlus 是一个用于严格评估大型语言模型（LLM）合成代码的项目，由 EvalPlus 团队开发，并在 NeurIPS 2...
阿里云oss-browser浏览器
06-20
图形化的管理工具。 提供类似Windows资源管理器的功能。 支持直接浏览文件。...ossbrowser是图形化工具，传输速度和性能不如ossutil。 只支持5 GB以下的文件移动或复制。 单文件上传最大不能超过48.8 TB。
微信小程序阿里云OSS-sdk
08-16
阿里云OSS-sdk，大小536KB 微信小程序纯前端从阿里云OSS下载，可直接引用 文章地址：https://blog.csdn.net/qq_44695727/article/details/132154404
libalibabacloud-oss-cpp-sdk.rar
09-19
"libalibabacloud-oss-cpp-sdk.rar"文件恰好提供了这样的解决方案，它包含了专门为ARM平台交叉编译的静态库（libalibabacloud-oss-cpp-sdk-static.a）和动态库（libalibabacloud-oss-cpp-sdk.so）。 交叉编译是将源...
aliyun-sdk-oss-2.8.3.jar
01-10
aliyun-sdk-oss-2.8.3.jar
CV、NLP、数据控掘推荐、量化
m0_58717895的博客
09-11 960
下面是对（计算机视觉）、（自然语言处理）、和。
OPENAIGC开发者大赛高校组金奖 | 基于混合大语言模型与多模态的全过程通用AI Agent
RPA中国
09-11 556
RAG 技术才刚刚开始兴起，与大语言模型相辅相成，即便是未来大模型支持的文本输入窗口无限增大，成本是需要考虑的，数据隐私也是需要考虑的，而 RAG 作为外部的知识检索和存取技术，支持本地部署，且不会消耗太多额外的算力，相比本地部署大模型，RAG 的性价比更高。借助于 RAG 的优势，加上我们与 Agent 的整合，我们希望该系统的能力会进一步增强，具体可以体现在：信息检索和召回更准确、token消耗量更小、每一步流程更透明可控。该项目将涵盖数据科学生命周期的所有阶段，包括数据收集、清洗、分析和建模。
大模型的实践应用29-大语言模型的RLHF(人类反馈强化学习)的具体应用与原理介绍
weixin_42878111的博客
09-11 300
RLHF是一种结合了强化学习（Reinforcement Learning, RL）与人类评估的创新训练策略。不同于传统的监督学习或无监督学习，RLHF通过直接从人类的正向反馈中学习来调整模型的行为，使得模型不仅能够生成语法正确、流畅的文本，还能更准确地捕捉和反映人类的价值观、偏好和道德标准。简而言之，RLHF框架下的大语言模型就像是在持续的人机互动中不断进化的对话艺术家。
Windows本地部署ollama并实现无公网IP远程运行qwen大语言模型
ks_wyf的博客
09-11 1307
Windows本地部署ollama并实现无公网IP远程运行qwen大语言模型
2.大语言模型LLM的涌现能力和关键技术
qq_38958704的博客
09-11 958
通常，大语言模型（LLM）指包含数百亿（或更多）参数的语言模型，这些模型在大量的文本数据上进行训练，例如GPT-3、PaLM、Galactica和LLaMA。然而，根据扩展法则，一些能力（例如上下文学习）是不可预测的，只有当模型大小超过一定水平时他们才能被观察到（如下文所述）。：LLM的涌现能力被正式定义为“在小模型中不存在但在大模型中出现的能力”，这是区分LLM与以前的PLM最突出的特征之一。原则上，涌现能力可以定义为与某些复杂任务相关的能力，而我们更关注能够应用于解决各种任务的通用能力。
QLORA：高效微调量化大型语言模型
人工智能讲师分享前沿技术
09-09 977
人工智能咨询培训老师叶梓 转载标明出处传统的16位精度微调需要超过780GB的GPU内存，对于参数量极大的模型，如65B（即650亿参数）的模型，在资源有限的情况下大模型的微调几乎是不可能的。华盛顿大学的研究者团队提出了一种名为QLORA的高效微调方法。它通过量化技术和低秩适配器（LoRA）显著降低了微调过程中的内存需求，使得在单个消费级 GPU 上微调高达65B参数的模型成为可能。QLORA 不仅减少了资源消耗，还保持了与全精度16位微调相当的性能，为大型模型的微调和部署开辟了新的可能性。
【CVPR2024】Scaling Up Video Summarization Pretraining with Large Language Models
最新发布
weixin_49090702的博客
09-11 137
这篇论文提出了一种利用长视频和LLMs生成大规模视频摘要数据集的自动化和可扩展机制，并提出了一个新的自回归视频摘要模型，有效解决了现有方法的局限性。此外，论文还引入了一个新的基准数据集LfVS-T，包含1200个长视频及其高质量的人工注释摘要。广泛的比较表明，该工作在多个基准测试中建立了新的最先进水平。
中国电信CTG-MBOSS OSS 2.5无线网优系统数据模型规范
"该文档是关于CTGMBOSS OSS 2.5版本的无线网络优化系统数据模型的详细规范，涵盖了无线网优系统的概念模型、逻辑模型，以及与其他模型的关系，旨在统一无线网优相关数据定义，促进企业内部数据共享，并指导系统设计...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值