书生浦语大模型第3期基础岛——OpenCompass 评测 InternLM-1.8B 实践

最新推荐文章于 2024-08-31 10:24:53 发布

星落阡墨

最新推荐文章于 2024-08-31 10:24:53 发布

阅读量413

点赞数 9

文章标签：语言模型

本文链接：https://blog.csdn.net/tianyuqianmo/article/details/141134357

版权

1.环境配置

1.1 创建开发即和conda环境

安装——面向GPU的环境安装

conda create -n opencompass python=3.10
conda activate opencompass
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia -y

# 注意：一定要先 cd /root
cd /root
git clone -b 0.2.4 https://github.com/open-compass/opencompass
cd opencompass
pip install -e .

1.2 数据准备

评测数据集

cp /share/temp/datasets/OpenCompassData-core-20231110.zip /root/opencompass/
unzip OpenCompassData-core-20231110.zip

InternLM和ceval相关的配置文件

python tools/list_configs.py internlm ceval

2.启动评测（10%A100 8GB资源)

2.1 使用命令行配置参数法进行评测

#环境变量配置
export MKL_SERVICE_FORCE_INTEL=1
#或
export MKL_THREADING_LAYER=GNU

python run.py --datasets ceval_gen --models hf_internlm2_chat_1_8b --debug

2.2 使用配置文件修改参数法进行评测

cd /root/opencompass/configs
touch eval_tutorial_demo.py

打开eval_tutorial_demo.py 贴入以下代码

from mmengine.config import read_base

with read_base():
    from .datasets.ceval.ceval_gen import ceval_datasets
    from .models.hf_internlm.hf_internlm2_chat_1_8b import models as hf_internlm2_chat_1_8b_models

datasets = ceval_datasets
models = hf_internlm2_chat_1_8b_models

cd /root/opencompass
python run.py configs/eval_tutorial_demo.py --debug