Code Llama系列教程之 在 苹果笔记本macOS 上本地运行 Code Llama （打造自己的代码AI）

什么是Code Llama？

Code Llama 是一个基于Llama 2构建的 AI 模型，针对生成和讨论代码进行了微调。
它可免费用于研究和商业用途。
Code Llama 有助于代码完成和调试工作，无缝适应 Python、C++、Java、PHP、Typescript (Javascript)、C# 和 Bash 等流行语言。

在本节中，我将通过代码来详细解释每个步骤。

在 MacBook 上运行 Code Llama

入门

Code Llama 的模型权重可在 Huggingface 上找到。

基本模型Code Llama和扩展模型Code Llama — Python未进行微调以遵循指令。应该提示他们，以便预期的答案成为提示的自然延续。这意味着这两个模型专注于代码填充和代码完成
扩展模型Code Llama —使用“自然语言指令”输入和预期输出进行训练。这种战略方法增强了模型在提示中把握人类期望的能力。这意味着指令模型可以在类似聊天机器人的应用程序中使用。

安装

llama2-wrapper是包装多个 llama2 后端（变压器、gptq、llama.cpp）的软件包，并提供llama2-webui来运行聊天机器人和 Code Llama 的代码游乐场。

安装可以很容易pip：

pip install llama2-wrapper

克隆存储库&