http://blog.sina.com.cn/s/blog_605f5b4f010146qk.html
DTW 动态时间弯曲距离 dynamic time warping Distance
Here is the wikipedia for http://en.wikipedia.org/wiki/Dynamic_time_warping
it lists its algorithm(general) and its algorithm with restrictions namely, a window parameter.
Also, wikipedia is useful as it lists several available tools which hava already implemented the algorithm.
在日常的生活中我们最经常使用的距离毫无疑问应该是欧式距离,但是对于一些特殊情况,欧氏距离存在着其很明显的缺陷,比如说时间序列,举个比较简单的例子,序列A:1,1,1,10,2,3,序列B:1,1,1,2,10,3,如果用欧氏距离,也就是distance[i][j]=(b[j]-a[i])*(b[j]-a[i])来计算的话,总的距离和应该是128,应该说这个距离是非常大的,而实际上这个序列的图像是十分相似的,这种情况下就有人开始考虑寻找新的时间序列距离的计算方法,然后提出了DTW算法,这种方法在语音识别,机器学习方便有着很重要的作用。
这个算法是基于动态规划(DP)的思想,解决了发音长短不一的模板匹配问题,简单来说,就是通过构建一个邻接矩阵,寻找最短路径和。
还以上面的2个序列作为例子,A中的10和B中的2对应以及A中的2和B中的10对应的时候,distance[3]以及distance[4]肯定是非常大的,这就直接导致了最后距离和的膨胀,这种时候,我们需要来调整下时间序列,如果我们让A中的10和B中的10 对应,A中的1和B中的2对应,那么最后的距离和就将大大缩短,这种方式可以看做是一种时间扭曲,看到这里的时候,我相信应该会有人提出来,为什么不能使用A中的2与B中的2对应的问题,那样的话距离和肯定是0了啊,距离应该是最小的吧,但这种情况是不允许的,因为A中的10是发生在2的前面,而B中的2则发生在10的前面,如果对应方式交叉的话会导致时间上的混乱,不符合因果关系。
接下来,以output[6][6](所有的记录下标从1开始,开始的时候全部置0)记录A,B之间的DTW距离,简单的介绍一下具体的算法,这个算法其实就是一个简单的DP,状态转移公式是output[i][j]=Min(Min(output[i-1][j],output[i][j-1]),output[i-1][j-1])+distance[i][j];最后得到的output[5][5]就是我们所需要的DTW距离.
DTW的C语言实现
#include
#include
using namespace std;
#define NUM 6 //序列中样本点的个数简单起见,假设2个序列的样本点一样多
#define Min(a,b) (a
void aprint(int**, int,int);
int main()
{
cout<<"adfewro"<<endl;
int i,j,k;
int a[NUM],b[NUM];
int distance[NUM+1][NUM+1];
int output[NUM+1][NUM+1];
memset((int**)distance,0,sizeof(distance));
memset((int**)output,0,sizeof(output));
aprint((int**)distance,NUM+1,NUM+1);
aprint((int**)output,NUM+1,NUM+1);
for(i=0;i>a[i];
for(i=0;i>b[i];
for(i=1;i<=NUM;i++)
for(j=1;j<=NUM;j++)
distance[i][j]=(b[j-1]-a[i-1])*(b[j-1]-a[i-1]); //计算点与点之间的欧式距离
for(i=1;i<=NUM;i++)
{
for(j=1;j<=NUM;j++)
cout<<distance[i][j]<<'\t';
cout<<endl;
} //输出整个欧式距离的矩阵
aprint((int**)distance,NUM+1,NUM+1);
cout<<endl;
for(i=1;i<=NUM;i++)
for(j=1;j
output[i][j]=Min(Min(output[i-1][j-1],output[i][j-1]),output[i-1][j])+distance[i][j];
//DP过程,计算DTW距离
for(i=0;i<=NUM;i++)
{
for(j=0;j<=NUM;j++)
cout<<output[i][j]<<'\t';
cout<<endl;
} //输出整个欧式距离的矩阵
aprint((int**)distance,NUM+1,NUM+1);
cout<<endl;
for(i=1;i<=NUM;i++)
for(j=1;j
output[i][j]=Min(Min(output[i-1][j-1],output[i][j-1]),output[i-1][j])+distance[i][j];
//DP过程,计算DTW距离
for(i=0;i<=NUM;i++)
{
for(j=0;j<=NUM;j++)
cout<<output[i][j]<<'\t';
cout<<endl;
} //输出最后的DTW距离矩阵,其中output[NUM][NUM]为最终的DTW距离和
aprint((int**)output,NUM+1,NUM+1);
return 0;
}
void aprint(int** array_n, int len,int wid)
{
cout<<"the print function\n";
int i=1,j=1;
int (*array)[wid];
array=(int (*)[wid])array_n;
int elem[wid];
while(i
{
// elem=(*array);
memset(elem,1,sizeof(elem));
j = 1;
while(j
{
// cout<<*((int*)array+i*wid+j)<<'\t';
//cout<<*(*(array+i)+j)<<'\t';
cout<<(*array)[i*wid+j]<<'\t';
// cout<<array_n[i][j]<<'\t';
j++;
}
cout<<endl;
i++;
// array++;
}
}
动态时间规整DTW
动态时间规整DTW(dynamic time warping)曾经是语音识别的一种主流方法。
其思想是:由于语音信号是一种具有相当大随机性的信号,即使相同说话者对相同的词,每一次发音的结果都是不同的,也不可能具有完全相同的时间长度。因此在与已存储模型相匹配时,未知单词的时间轴要不均匀地扭曲或弯折,以使其特征与模板特征对正。用时间规整手段对正是一种非常有力的措施,对提高系统的识别精度非常有效。
动态时间规整DTW是一个典型的优化问题,它用满足一定条件的的时间规整函数W(n)描述输入模板和参考模板的时间对应关系,求解两模板匹配时累计距离最小所对应的规整函数。
™将时间规整与距离测度结合起来,采用动态规划技术,比较两个大小不同的模式,解决语音识别中语速多变的难题;
™一种非线性时间规整模式匹配算法;
DTW ( Dynamic Time Warping ),即「动态时间扭曲」或是「动态时间规整」。这是一套根基于「动态规划」(Dynamic Programming,简称DP)的方法,可以有效地将搜寻比对的时间大幅降低。
DTW 的目标就是要找出两个向量之间的最短距离。一般而言,对于两个 n 维空间中的向量 x 和y,它们之间的距离可以定义为两点之间的直线距离,称为尤拉距离(Euclidean Distance)。
dist(x, y) = |x – y| ,
但是如果向量的长度不同,那它们之间的距离,就无法使用上述的数学式來计算。一般而言,假設这两个向量的元素位置都是代表时间,由于我们必須容忍在时间轴的偏差,因此我们並不知道两个向量的元素对应关系,因此我们必須靠着一套有效的运算方法,才可以找到最佳的对应关系。
DTW是用于与说话人有关(Speaker Dependent)的语音识别,使用者自行录音然后再以自己的声音來比对之前录好的语音资料。此方法比較适合同一位说话人的声音來进行比較,因此应用范围比较狭隘,譬如目前手机 Name Dialing 等等。
DTW的问题:
™运算量大;
™识别性能过分依赖于端点检测;
™太依赖于说话人的原来发音;
™不能对样本作动态训练;
™没有充分利用语音信号的时序动态特性;
DTW适合于特定人基元较小的场合,多用于孤立词识别;