摘要:看完本文,你将 (1)了解什么是MPEG-7 (2)理解MPEG-7中的一些基本概念( 什么是D,DS,DDL) 。
一. MPEG-7简介
(1) 什么是MPEG-7
MPEG-7的正式名称是“多媒体内容描述接口”(Multimedia Content Description Interface),是由运动图像专家组(MPEG, Moving Picture Experts Group)提出的一个用于描述多媒体内容的ISO/IEC标准。
简单而言,MPEG-7其实就是一个规定如何来描述多媒体内容的特征的标准。
明确一点:MPEG-7跟MPEG-2、MPEG-4等除了名字有点像以外没有更多的相同点。MPEG-2、MPEG-4关注的是多媒体本身的编码压缩,而MPEG-7关注的是多媒体内容特征的描述。
(2) MPEG-7标准的范围
MPEG-7标准仅仅规定了如何描述,组织特征。特征的提取、特征的使用不属于MPEG-7标准的范围。
以图片内容搜索引擎为例,图片特征的提取算法不属于MPEG-7标准范围(提取算法也没有标准化的必要),同样搜索引擎如何使用图片特征也不在MPEG-7范围,只有特征的描述(下文将介绍如何描述特征)是MPEG-7标准范围内的。
图1. MPEG-7 标准的范围
(3) MPEG-7应用领域
MPEG-7比不针对特定的应用领域。就目前来看,适合应用MPEG-7的领域包括:
<1> 基于内容的多媒体搜索(包括图像搜索、哼唱搜索、语音搜索等)
<2> 图像理解
<3> 其他需要使用大量多媒体特征的应用
二. MPEG-7主要概念
(1) 特征( Feature )
用于描述数据的有区分性的特性。比如声音的频率,图形的灰度直方图等就是一些简单的特征。
(2) 描述符( Ds, Descriptors )
也称描述子。描述符通常缩写成D或Ds。 D通常是一些基本特征的语法和语义。D是最基本的MPEG-7元素,也就是说一个描述符的定义只能使用基本的数据类型,而不能包含别的D。
(3) 描述方案(DSs, Description Schemes)
也称描述模式。描述方案通常所写成DS或DSs。一个DS的定义除了可以使用基本的数据类型外,还可以包含其他的DS或D。
(4) 描述值( Descriptor Value )
是描述符的一个实例。
(5) 描述 ( Description )
由一个描述方案(结构)和一组描述值组成。
(6) 描述定义语言( DDL, Description Definition Language)
用于定义新的D和DS。MPEG-7 DDL是在XML Schema基础上扩展而成,主要所作的扩展有两点:支持数组与矩阵类型,增加了其他的派生数据类型。
图2. D,DS,DDL,Description的关系
图2说明了D,DS,DDL之间的关系。这三者的关系可以用下面几句话简要概括:
<1> D与DS规定了描述特征的语法。DS和D实例化后就是对一个多媒体特征的描述。
<2> DS可以由D和其他DS构成。
<3> DDL定义D和DS。
这三者的关系可以用C++与类的关系作类比,C++定义类,类可以用基本的数据类型来定义,也可以通过组合、继承其他类来定义,类是对象的结构定义,对象是类的实例化。
类似的,DDL定义了D和DS,D只能用基本的数据类型来定义,DS的定义则可以使用其他的DS与D,描述值是D的实例化。
什么?你还不懂?上实例!
三. MPEG-7 实例
下面我将通过实际代码来说明描述符,描述值,描述方案,描述的概念。保证你看得懂,前提是你已经能看懂XML Schema。(如果您还不会XML Schema请问谷哥度娘。)
(1) 描述符
下面是一个名为“ScalableColorType”的描述符的定义:
- <complexType name="ScalableColorType" final="#all">
- <complexContent>
- <extension base="mpeg7:VisualDType">
- <sequence>
- <element name="Coeff" type="mpeg7:integerVector"/>
- </sequence>
- <attribute name="numOfCoeff" use="required">
- <simpleType>
- <restriction base="integer">
- <enumeration value="16"/>
- <enumeration value="32"/>
- <enumeration value="64"/>
- <enumeration value="128"/>
- <enumeration value="256"/>
- </restriction>
- </simpleType>
- </attribute>
- <attribute name="numOfBitplanesDiscarded" use="required">
- <simpleType>
- <restriction base="integer">
- <enumeration value="0"/>
- <enumeration value="1"/>
- <enumeration value="2"/>
- <enumeration value="3"/>
- <enumeration value="4"/>
- <enumeration value="6"/>
- <enumeration value="8"/>
- </restriction>
- </simpleType>
- </attribute>
- </extension>
- </complexContent>
- </complexType>
可以看出这个“ScalableColorType”描述符是由“mpeg7:VisualDType”类型扩展而来,包含有一个名为“Coeff”的 “mpeg7:integerVector”类型的元素,以及名为“numOfCoeff”和名为“numOfBitplanesDiscarded”的枚举类型属性各一个。
由于“ScalableColorType”的定义仅仅使用了基本的数据类型,而没有用到其他的D或DS,因此我们将其称为一个描述符(D) 。
(2) 描述值
下面的代码是“ScalableColorType”描述符的一个实例,也就是一个描述值。
- <VisualDescriptor type="ScalableColorType“ numOfBitplanesDiscarded="0" numOfCoeff="64">
- <Coeff>
- -121 8 -3 87 12 14 22 37 31 13 11 3 50 14 19 21 -3 1 0 11
- -8 5 0 17 -8 2 2 4 -15 5 1 -1 1 0 0 1 0 0 1 1 6 1 1 3 1 2 4 12
- -1 0 2 2 2 3 3 -4 15 0 0 -2 1 0 -3 6
- </Coeff>
- </VisualDescriptor>
将这个描述值跟上面给出的“ScalableColorType”描述符对比着看,可以发现描述值的结构是由描述符规定的,描述值是描述符的一个实例。
(3) 描述方案
下面是一个名为“GoFGoPColorType”的描述方案的定义。
- <complexType name="GoFGoPColorType" final="#all">
- <complexContent>
- <extension base="mpeg7:VisualDType">
- <sequence>
- <element name="ScalableColor" type="mpeg7:ScalableColorType"/>
- </sequence>
- <attribute name="aggregation" use="required">
- <simpleType>
- <restriction base="string">
- <enumeration value="Average"/>
- <enumeration value="Median"/>
- <enumeration value="Intersection"/>
- </restriction>
- </simpleType>
- </attribute>
- </extension>
- </complexContent>
- </complexType>
可以看出“GoFGoPColorType”描述方案是由“mpeg7:VisualDType”类型扩展而来,包含了一个“ScalableColorType”类型的元素,以及一个名为“aggregation”的枚举类型的属性。
由于“GoFGoPColorType”的定义中包含了一个“ScalableColorType”描述符,因此我们将其称为一个描述方案(DS)。
(4) 描述
下面的代码是对一个图片文件生成的一个描述。其中包含了一个“ScalableColorType”类型的描述值。
- <?xml version="1.0" encoding="UTF-8"?>
- <image>
- <title>Twilight</title>
- <comments>nice picture</comments>
- <tags>sunset sky</tags>
- <Mpeg7>
- <Description type="ContentEntityType">
- <MultimediaContent type="ImageType">
- <Image>
- <VisualDescriptor type="ScalableColorType“ numOfBitplanesDiscarded="0" numOfCoeff="64">
- <Coeff>
- -121 8 -3 87 12 14 22 37 31 13 11 3 50 14 19 21 -3 1 0 11
- -8 5 0 17 -8 2 2 4 -15 5 1 -1 1 0 0 1 0 0 1 1 6 1 1 3 1 2 4 12
- -1 0 2 2 2 3 3 -4 15 0 0 -2 1 0 -3 6
- </Coeff>
- </VisualDescriptor>
- </Image>
- </MultimediaContent>
- </Description>
- </Mpeg7>
- </image>
四. MPEG-7标准组成
(1) MPEG-7 视频
(2) MPEG-7 音频
(3) MPEG-7 多媒体
(4) 描述定义语言 DDL
(5) MPEG-7 参考软件
其中(1)(2)(3)主要是对视频,音频,多媒体成百上千个的描述符和描述方案,而且至今仍在不断增加。而(5)则是根据MPEG-7标准开发的软件实验平台。
如果你想深入了解MPEG-7 DDL可以阅读参考文献2。关于MPEG-7视频、音频、多媒体以后我有时间还会写些文章深入探讨。
参考资料:
[1] MPEG-7 Overview
http://mpeg.chiariglione.org/standards/mpeg-7/mpeg-7.htm
[2]Jane Hunter. An Overview of the MPEG-7 Description Definition Language (DDL)