《LLM工程师手册》开源项目安装与配置指南

《LLM工程师手册》开源项目安装与配置指南

LLM-Engineers-Handbook The LLM's practical guide: From the fundamentals to deploying advanced LLM and RAG apps to AWS using LLMOps best practices 项目地址: https://gitcode.com/gh_mirrors/llm/LLM-Engineers-Handbook

1. 项目基础介绍

《LLM工程师手册》是一个开源项目，旨在帮助开发者创建自己的端到端LLM（大型语言模型）系统，并遵循最佳实践。本项目包含从数据收集、模型训练、RAG（ Retrieval-Augmented Generation）系统构建、AWS生产环境部署、综合监控到测试和评估框架的全过程。

项目主要使用的编程语言是Python。

2. 项目使用的关键技术和框架

• Python：作为主要编程语言，用于实现项目的各个组成部分。
• Docker：用于容器化项目，确保环境一致性。
• AWS CLI：用于管理和部署AWS云服务。
• ZenML：机器学习管道的编排和自动化工具。
• MongoDB：作为NoSQL数据库存储数据。
• Qdrant：用于向量搜索的向量数据库。
• GitHub Actions：持续集成和持续部署服务。

3. 项目安装和配置的准备工作

在开始安装之前，请确保您的系统中已安装以下工具：

• Python：版本至少为3.11。
• Git：版本至少为2.44.0。
• Docker：版本至少为27.1.1。
• AWS CLI：版本至少为2.15.42。
• poetry：用于Python依赖管理。

详细安装步骤

步骤 1：克隆项目仓库

打开命令行，执行以下命令克隆项目：

git clone https://github.com/PacktPublishing/LLM-Engineers-Handbook.git
cd LLM-Engineers-Handbook

步骤 2：设置Python环境

项目需要Python 3.11环境。您可以选择全局安装Python 3.11或使用pyenv进行局部安装。

• 使用全局Python：

  确认您的Python版本：

  python --version
  # 应显示Python 3.11.x
  

• 使用pyenv：

  确认pyenv安装：

  pyenv --version
  # 应显示pyenv 2.3.36或更高版本
  

  安装Python 3.11.8：

  pyenv install 3.11.8
  

  确认安装：

  python --version
  # 应显示Python 3.11.8
  

步骤 3：安装依赖

项目使用poetry管理依赖。确认poetry安装：

poetry --version
# 应显示1.8.3或更高版本

设置项目环境和安装依赖：

poetry env use 3.11
poetry install --without aws
poetry run pre-commit install

这将为项目配置Python 3.11环境，安装依赖（不包括AWS特定包），并设置代码验证的pre-commit钩子。

步骤 4：激活环境

使用poetry提供的任务管理器Poe the Poet运行所有脚本。

启动poetry shell：

poetry shell

在poetry shell中，使用Poe the Poet运行项目命令：

poetry poe ...

如果遇到Poe the Poet安装问题，可以直接使用poetry运行命令：

# 查找命令定义
poetry run ...

以上就是《LLM工程师手册》开源项目的详细安装和配置指南。按照以上步骤操作，您应该能够顺利搭建项目环境并开始开发。

LLM-Engineers-Handbook The LLM's practical guide: From the fundamentals to deploying advanced LLM and RAG apps to AWS using LLMOps best practices 项目地址: https://gitcode.com/gh_mirrors/llm/LLM-Engineers-Handbook