第三期书生大模型实战营之OpenCompass 评测 InternLM-1.8B 实践

基础任务

使用 OpenCompass 评测 internlm2-chat-1.8b 模型在 MMLU 数据集上的性能，记录复现过程并截图。

1. 首先创建环境

studio-conda -o internlm-base -t opencompass
source activate opencompass
git clone -b 0.2.4 https://github.com/open-compass/opencompass
cd opencompass
pip install -e .

如果还存在问题的话，可以尝试下面命令补全环境：

pip install -r requirements.txt

2. 启动评测

1. export MKL_SERVICE_FORCE_INTEL=1

2. python run.py --datasets mmlu_gen --hf-path /share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b --tokenizer-path /share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b --tokenizer-kwargs padding_side='left' truncation='left' trust_remote_code=True --model-kwargs trust_remote_code=True device_map='auto' --max-seq-len 1024 --max-out-len 16 --batch-size 2 --num-gpus 1 --debug

3.查看评测结果

进阶任务（闯关不要求完成此任务）

1. 使用 OpenCompass 进行主观评测（选做）
2. 使用 OpenCompass 评测 InternLM2-Chat-1.8B 模型使用 LMDeploy部署后在 MMLU 数据集上的性能（选做）
3. 使用 OpenCompass 进行调用API评测（优秀学员必做）

暂时未完成