(9-3-06)MM-Vet多模态大模型评估系统:推理脚本(6)

9.3.12  生成推理文件

前面介绍的“inference”目录中的各种大模型推理文件(如 claude.py、gpt4.py),用于与具体的大模型进行交互。每个文件通常封装了对应模型的 API 调用逻辑,使得系统能够生成预测结果。这些文件的主要任务是执行推理,而非评估。

通过本项目可以推理常见的多模态大模型,例如GPT-4、阿里通义千问等,并将推理结果保存为 JSON格式。请看下面的命令,功能是推理GPT-4大模型,并得到推理文件gpt-4o-2024-05-13_detail-high.json。

python inference/gpt4.py --mmvetv2_path /path/to/mm-vet-v2 --model_name gpt-4o-2024-05-13 --image_detail ${image_detail}

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码农三叔

感谢鼓励

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值