codellama模型部署（待补充）

codellama介绍

Code Llama 是一个基于Llama 2的大型代码语言模型系列，在开放模型、填充功能、对大输入上下文的支持以及编程任务的零样本指令跟踪能力中提供最先进的性能。我们提供多种风格来覆盖广泛的应用程序：基础模型 (Code Llama)、Python 专业化 (Code Llama - Python) 和指令跟随模型 (Code Llama - Instruct)，每个模型都有 7B、13B 和 34B 参数。所有模型均在 16k 个标记序列上进行训练，并在最多 100k 个标记的输入上显示出改进。7B 和 13B Code Llama 和 Code Llama - 指令变体支持基于周围内容的填充。Code Llama 是通过使用更高的代码采样对 Llama 2 进行微调而开发的。

代码地址

GitHub - facebookresearch/codellama: Inference code for CodeLlama models

模型下载方式

1、在 https://ai.meta.com/resources/models-and-libraries/llama-downloads/上提交申请，会在填写的邮箱中收到邮件

2、执行 bash download.sh 下载模型，需要填写URL（邮件中收到的）

3、将邮件中的链接复制到终端（如下图，注意邮件中的url有效期为24h）

4、填入URL后输入对应的模型版本即可开始下载。