江大白 | 无需用户提示，检测万物！开放世界目标检测与理解的视觉模型：DINO-X（附论文及源码）

最新推荐文章于 2025-03-01 09:54:02 发布

双木的木

最新推荐文章于 2025-03-01 09:54:02 发布

阅读量1.9k

点赞数 41

分类专栏：深度学习拓展阅读大模型专栏文章标签：人工智能深度学习目标检测图像处理计算机视觉目标跟踪大模型

本文链接：https://blog.csdn.net/csdn_xmj/article/details/144514323

版权

深度学习拓展阅读同时被 2 个专栏收录

674 篇文章

订阅专栏

大模型专栏

163 篇文章

订阅专栏

本文来源公众号“江大白”，仅用于学术分享，侵权删，干货满满。

原文链接：无需用户提示，检测万物！开放世界目标检测与理解的视觉模型：DINO-X（附论文及源码）

导读

最近，IDEA研发的DINO-X通用视觉大模型在开放世界目标检测上取得突破，无需提示即可检测图像内容，包括长尾物体。它整合多个感知头支持多种任务，分为高性能Pro和高效Edge版，已应用于具身智能、数据标注等场景。

万物识别：开放世界（Open-world）目标检测！

IDEA 开发了一个通用物体提示来支持无提示的开放世界检测，从而无需用户提供任何提示即可检测图像中的任何内容。发布了DINO系列最新的DINO-X通用视觉大模型，拥有真正的物体级别理解能力，具有最佳开放世界物体检测性能的统一的以物体为中心的视觉模型。

同时构建了一个包含超过 1 亿个高质量基础样本的大规模数据集，称为 Grounding-100M，以提高模型的开放词汇检测性能。还扩展了 DINO-X 以集成多个感知头，从而同时支持多个物体感知和理解任务，包括检测、分割、姿势估计、物体字幕、基于物体的 QA 等。

在线演示：同时支持文本的提示输入！

项目地址及体验地址如下：

代码链接：https://github.com/IDEA-Research/DINO-X-API论文链接：https://arxiv.org/abs/2411.14347在线演示：https://deepdataspace.com/playground/grounding_dino

1. DINO-X亮点

全面检测：DINO-X在物体检测领域树立新标杆，无需任何提示，即可识别几乎所有物体，并给出其类别，包括罕见的长尾物体（出现频率低但种类繁多的物体）。

开放世界（Open-world）模型对比！

最强的开放集检测性能：DINO-X Pro 在零样本转移检测基准上创下了新的 SOTA 结果：COCO 上的56.0 AP、LVIS-minival 上的59.8 AP和LVIS-val 上的52.4 AP。将之前的 SOTA 性能提高了 5.8 个AP 和5.0 个 AP，凸显了其识别长尾物体的能力显著提高。
多样化的输入提示和多层次的输出语义表示：DINO-X整合了多个感知头，支持包括分割、姿态估计、区域描述和基于区域的问答在内的多种区域级别任务，让感知到理解逐步成为了现实。
丰富实用的功能：DINO-X可以同时支持许多实用性极强的任务，包括开放集物体检测与分割、短语基础、视觉提示计数、姿势估计和区域字幕。进一步开发了通用物体提示，以实现无提示的任何物体检测和识别。

2. 模型架构

DINO-X 包含两个模型：

DINO-X Pro：性能最强的型号，增强感知能力，适用于多种场景；
DINO-X Edge：高效模型针对更快的推理速度进行了优化，更适合部署在边缘设备上。

DINO-X Pro的核心架构，与Grounding DINO 1.5类似，利用预先训练好的 ViT 模型作为主要的视觉骨干，并在特征提取阶段采用了深度早期融合策略。但不同的是，他们扩大了DINO-X Pro在输入阶段的提示支持，除了文本，还支持视觉提示和自定义提示，以满足包括长尾物体在内的各种检测需求。而对于DINO-X Edge版本，他们利用 EfficientViT作为高效特征提取的骨干，并采用了类似Transformer编码器-解码器架构。