MiniHF 项目使用教程

MiniHF 项目使用教程

minihfMiniHF is an inference, human preference data collection, and fine-tuning tool for local language models. It is intended to help the user develop their prompts into full models.项目地址:https://gitcode.com/gh_mirrors/mi/minihf

1. 项目的目录结构及介绍

MiniHF 项目的目录结构如下：

minihf/
├── README.md
├── requirements.txt
├── rlaif_generator.py
├── rlaif_generator_dpo.py
├── setup.sh
├── sft_evaluator.py
├── sft_generator.py
├── train_vae_overlap.py
├── train_vae_router.py
├── vae_infer.py
├── weave.py
└── ...

目录结构介绍

• README.md: 项目的基本介绍和使用说明。
• requirements.txt: 项目依赖的 Python 包列表。
• rlaif_generator.py: 用于生成 RLAIF 的脚本。
• rlaif_generator_dpo.py: 用于生成 RLAIF DPO 的脚本。
• setup.sh: 项目安装脚本，用于安装依赖和启动服务。
• sft_evaluator.py: 用于评估 SFT 的脚本。
• sft_generator.py: 用于生成 SFT 的脚本。
• train_vae_overlap.py: 用于训练 VAE 重叠的脚本。
• train_vae_router.py: 用于训练 VAE 路由的脚本。
• vae_infer.py: 用于 VAE 推理的脚本。
• weave.py: 用于编织的脚本。

2. 项目的启动文件介绍

项目的启动文件是 setup.sh。该脚本用于安装项目的依赖、下载模型并启动推理服务器。

启动步骤

1. 克隆项目仓库：

   git clone https://github.com/JD-P/minihf.git
   cd minihf
   

2. 运行启动脚本：

   bash setup.sh
   

   该脚本会自动更新服务器包、安装 Python 依赖、下载模型并启动推理服务器。

3. 项目的配置文件介绍

项目的配置文件主要是 requirements.txt，该文件列出了项目运行所需的 Python 包。

requirements.txt 内容示例

numpy==1.21.2
pandas==1.3.3
torch==1.9.0
...

配置文件说明

• requirements.txt: 列出了项目运行所需的 Python 包及其版本号。在运行 setup.sh 脚本时，会自动安装这些依赖包。

通过以上步骤，您可以成功安装并启动 MiniHF 项目。

minihfMiniHF is an inference, human preference data collection, and fine-tuning tool for local language models. It is intended to help the user develop their prompts into full models.项目地址:https://gitcode.com/gh_mirrors/mi/minihf