Richpedia: A Large-Scale, Comprehensive Multi-Modal Knowledge Graph

背景:
语义网络的发展,各种知识图谱利用资源描述框架在Web上发布,使不同的实体之间的RDF链接可以用来构建一个大型的异构图,同时,视觉资源集的公众可及性有了很大的发展,在知识图谱的研究过程中,视觉资源还有很大的利用空间。一般知识图谱只关注于文本事实,学术界中缺乏完整的多模态知识图谱,这将阻碍未来多模态融合的研究,由此提出了Richpedia。
Richpedia通过向wikidata中的文本实体分布充分多样的图像来提供一个全面的多模态知识图谱,根据维基百科中的超链接和描述设置图像实体之间的视觉语义关系。Richpedia可以通过面向的查询端点在web上访问。Richpedia将全面的可视化关系资源注入到一般知识图谱中,建立了一个大的、高质量的多模态知识图谱数据集;提出了一个新的框架来构建多模态知识图谱,首先从wikidata、wikipedia和search engine收集实体和图像,通过独特的模型对图像进行过滤,根据wikipedia中的超链接和实体描述在图像实体之间分配RDF链接;将Richpedia作为开放资源发布,回答更丰富的可视化查询,进行多关系链接预测。
Richpedia的构建过程可以分为数据收集、图片处理和关系挖掘
Richpedia数据收集:
不同于传统的知识图谱,我们目的在于构建一个包含丰富图像实体及其关系的多模态数据集,从以下几个方面来填充Richpedia:从wikidata中收集知识图谱中的实体;从wikipedia中收集部分图像实体,以及收集到的KG实体与图像实体之间的关系,同时根据维基百科中的超链接和相关描述,发现图像实体之间的潜在关系;设计网络爬虫来收集每个KG实体相关的足够的图像实体。
根据定义&#x

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
AF(Association Fusion)是一种基于关联的多模态分类方法。多模态分类是指利用多种不同类型的数据(如图像、文本、音频等)进行分类任务。传统的多模态分类方法通常是将不同类型的数据分别提取特征,然后将这些特征进行融合得到最终结果。AF方法则是通过建立数据之间的关联来实现融合。 具体而言,AF方法首先将每个模态的数据进行特征提取,得到对应的特征向量。然后通过计算每个模态之间的相关度来建立模态之间的关联。这个相关度可以通过不同的方法来计算,例如互信息、皮尔逊相关系数等。 接下来,AF方法通过关联度来调整每个模态的权重。具体来说,权重与关联度成正比,关联度越高的模态将获得更大的权重。这样一来,每个模态的重要程度就会根据数据之间的关联度动态调整。 最后,AF方法通过将每个模态的特征与对应的权重进行加权融合,得到最终的特征向量。这个特征向量可以用于进行分类任务。 与传统的融合方法相比,AF方法能够更准确地捕捉到不同模态数据之间的关联信息。这样一来,融合后的特征向量能够更好地反映整个多模态数据的特征,提高分类准确率。 综上所述,AF是一种基于关联的多模态分类融合方法,通过建立数据之间的关联来动态调整每个模态的权重,从而提高多模态分类的准确率。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值