Stable Code Instruct 3B is an instruction-tuned Code LM based on Stable Code 3B.
With natural language prompting, this model can handle a variety of tasks such as code generation, math and other software development related queries.
- Stable Code Instruct 3B(简称3B)是Stability AI推出的代码语言模型。
- 基于 Stable Code 38 的指令调优 Code LM。
- 旨在通过解读自然语言指令来生成代码、解决问题及执行多种编程语言的查询,从而简化软件开发流程,提高编程效率和直观性。
一起看看3B表现:
Stable Code Instruct 3B
3B支持多种编程语言,能够理解复杂的自然语言指令,并在多个编程任务上展现出优异的性能。这个工具特别适合在多样化环境中工作的软件开发者。
一、3B的主要特性
-
代码生成与补全:提供高质量的代码生成和补全功能,帮助开发者快速编写和完善代码。
-
自然语言理解:能够理解并执行基于自然语言的编程指令,使得与模型的交互更加直观和灵活。
-
多样化编程任务:除了代码补全,还能处理代码翻译、解释、创建和数据库查询等任务。
-
多语言支持:专注于主流编程语言,如Python、JavaScript、Java、C、C++和Go,并涵盖其他语言如SQL、PHP和Rust。
-
指令调整优化:理解并遵循用户的细微差别指令,从而进行调整,提升了执行特定编程任务的准确性和效率。
Stable Code directive 3B(简称3Bd)专注于Python、Javascript、Java、C、c++和Go等语言。虽然这些语言被选为训练的主要焦点,但该模型还包括对其他广泛使用的语言的训练,如SQL、PHP和Rust。
二、涉及的数据集
3Bd包含27亿的参数,是由stable-code-3b调整而来的纯解码语言模型。该模型使用直接偏好优化(DPO)的公开可用数据集和合成数据集的混合进行训练。
此外,3B展示了最优异的性能,(与大小相近的模型相比)在使用 BigCode’s的评估工具测试的多种编程语言的MultiPL-E指标上,以及在 MT Bench的代码部分上都能达到比其他代码大模型算法更好的效果。
三、性能与表现
在Codellama 7B directive和DeepSeek-Coder directive 1.3B等编码数据集的实验中,3Bd在一系列编码任务中展现了卓越的性能。
实验表明,3Bd不仅在代码完成精度、对自然语言指令的理解以及跨不同编程语言的通用性方面与这些模型实力相当,甚至超越这些模型。
3B不仅精通代码生成,还精通代码填充、数据库查询、代码翻译、解释等。
其优化指令使其能够理开发人员的需求,完成除简单代码完成之外的编码任务,包括数学理解、逻辑推理和介绍软件开发处理复杂的技术。
四、使用规则
语言支持:主要是Python、c++和JavaScript等主流编程语言,模型的训练数据集还包含了许多编程语言。想要了解对模型进行训练的语言完整列表,参阅技术报告:
https://drive.google.com/file/d/16-DGsR5-qwoPztZ6HcM7KSRUxIXrjlSm/view
指令跟随:该模型的调优指令允许它解释和调整代码的细节。这个功能允许3Bd提供更相关和上下文感知的代码建议,提高开发人员的编码效率和质量
硬件可访问性:3B 的低硬件要求使其能够被更广泛的受众访问。它支持完成FIM任务,并理解细微的编程查询,使开发人员能够以更少的努力更高效地工作。
目前,Stable Code Instruct 3B 可通过注册会员获取试用资格。而对于个人页可在 Hugging Face 上下载该模型的权重和代码,开发自己的API工具。
huggingface.co
为众人抱薪者,不可使其冻毙于风雪;为自由开路者,不可使其困顿于荆棘。
关注公众号:有点建树-AI,做更多交流。