论文地址： https://arxiv.org/pdf/1904.01766.pdf
这是一篇将BERT结合video来学习跨模态表示的经典之作。该工作将video中提取出的特征向量通过聚类的方法离散化，继而在文本token的基础上增加视觉token，一起学习视觉和文本信息。
1 方法
1.1 视频文本数据处理（video and language processing）
针对video的处理，首先从input video每秒中抽取20帧画面（20 fps），每30帧组成一个片段。对每个clip用pretrained的ConvNet提取特征向量（1024维）。但是由于特征向量属于整个实数空间，是不可数的。为了和文本token相对应，作者对所有提取出的特征向量使用hierarchical k-means做聚类，一共得到20736个类中心。把类中心作为visual token，每一个视觉特征向量都由它属于的类中心来表征。
1.2 输入格式（input format）
经过前面的处理，video中的语言和视觉信息都变成了离散的token，VideoBERT的输入格式延续了原始BERT的设计，只是增加了[>]这个特殊的token用来分开text token和visual token。
最低0.47元/天 解锁文章
790
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
