书生大模型实战营-OpenCompass 评测 InternLM-1.8B 实践

晚风809

已于 2024-08-09 14:20:45 修改

阅读量134

点赞数 3

文章标签： python 开发语言

于 2024-08-09 14:04:08 首次发布

本文链接：https://blog.csdn.net/weixin_63652204/article/details/141060520

版权

1.创建虚拟环境下载所需要的安装包

2.安装opencompass

git clone -b 0.2.4 https://github.com/open-compass/opencompass
cd opencompass
pip install -r requirements.txt 
pip install -e .
pip install protobuf
export MKL_SERVICE_FORCE_INTEL=1

可以查看所支持的模型和数据集

3.开始运行查看结果

cp /share/temp/datasets/OpenCompassData-core-20231110.zip /root/opencompass/
unzip OpenCompassData-core-20231110.zip
python run.py --datasets ceval_gen --hf-path /share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b --tokenizer-path /share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b --tokenizer-kwargs padding_side='left' truncation='left' trust_remote_code=True --model-kwargs trust_remote_code=True device_map='auto' --max-seq-len 2048 --max-out-len 16 --batch-size 4 --hf-num-gpus 1 --debug