文生图模型评测之PickScore

论文链接：Pick-a-Pic: An Open Dataset of User Preferences for Text-to-Image Generation
代码/数据链接：yuvalkirstain/PickScore
🤗关注微信公众号 funNLPer，分享有用的算法知识🤗

PickScore是一个文生图打分模型，作者在公开模型的同时也公开了他们收集的人类偏好数据集，该模型即可作为文生图模型的评价标准，也可作为类似于RLHF中奖励函数。而对于作者公开的人类偏好数据集则对文生图中RLHF具有重要作用，同时研究者们也可基于该数据集训练打分模型。

1. 简介

从文生图用户中收集大量的人类偏好数据一般只能是大公司才能做到，普通研究者很难收集到这种数据。因此本文制作了一个web应用，用户在该应用上可以使用文生图模型生成各种图片，并且指出他们对图片的偏好。通过这个应用本文收集了大量的文生图prompts以及用户对生成图片的偏好。作者利用该数据集训练了一个基于CLIP的打分函数PickScore，PickScore在预测人类偏好任务上展示了惊人的效果。

2. 构建数据集