weixin_58458535的博客

对于 HuggingFace 模型，用户可以通过命令行直接设置模型参数，无需额外的配置文件。通过这种方式，OpenCompass 一次只评估一个模型，而其他方式可以一次评估多个模型。–hf-num-gpus 不代表实际用于评估的 GPU 数量，而是该模型所需的最少 GPU 数量。--hf-type base \ # HuggingFace 模型类型, base 或 chat--hf-path facebook/opt-125m \ # HuggingFace 模型路径。

1.行并行就是把权重A按照行分割成两部分，为了保证运算，把输入X。