DTW是一种衡量两个时间序列之间的相似度的方法,主要应用在语音识别领域来识别两段语音是否表示同一个单词。
1 DTW方法原理
在时间序列中,需要比较相似性的两段时间序列的长度可能并不相等,在语音识别领域表现为不同人的语速不同。而且同一个单词内的不同音素的发音速度也不同,比如有的人会把‘A’这个音拖得很长,或者把‘i’发的很短。另外,不同时间序列可能仅仅存在时间轴上的位移,亦即在还原位移的情况下,两个时间序列是一致的。在这些复杂情况下,使用传统的欧几里得距离无法有效地求的两个时间序列之间的距离(或者相似性)。
DTW通过把时间序列进行延伸和缩短,来计算两个时间序列性之间的相似性:
如上图所示,上下两条实线代表两个时间序列,时间序列之间的虚线代表两个时间序列之间的相似的点。DTW使用所有这些相似点之间的距离的和,称之为归整路径距离(Warp Path Distance)来衡量两个时间序列之间的相似性。
2 DTW计算方法
令要计算相似度的两个时间序列为X和Y,长度分别为|X|和|Y|。
3 归整路径(Warp Path)
归整路径的形式为W=w1,w2,…,wK,其中Max(|X|,|Y|)<=K<=|X|+|Y|。
wk的形式为(i,j),其中i表示的是X中的i坐标,j表示的是Y中的j坐标。
归整路径W必须从w1=(1,1)开始,到wK=(|X|,|Y|)结尾,以保证X和Y中的每个坐标都在W中出现。
另外,W中w(i,j)的i和j必须是单调增加的,以保证图1中的虚线不会相交,所谓单调增加是指:
我们最后要得到的归整路径是距离最短的一个归整路径:
其中Dist(wki,wkj)为任意经典的距离计算方法,比如欧几里得距离。wki是指X的第i个数据点,wkj是指Y的第j个数据点。
4 DTW实现
在实现DTW时,我们采用动态规划的思想,其中D(i,j)表示长度为i和j的两个时间序列之间的归整路径距离:
我们最后求得的归整路径距离为D(|X|,|Y|),使用动态规划来进行求解:
上图为代价矩阵(Cost Matrix) D,D(i,j)表示长度为i和j的两个时间序列之间的归整路径距离。
DTW实现的伪代码为
- int DTWDistance(s: array [1..n], t: array [1..m]) {
- DTW := array [0..n, 0..m]
- for i := 1 to n
- DTW[i, 0] := infinity
- for i := 1 to m
- DTW[0, i] := infinity
- DTW[0, 0] := 0
- for i := 1 to n
- for j := 1 to m
- cost:= d(s[i], t[j])
- DTW[i, j] := cost + minimum(DTW[i-1, j ], // insertion
- DTW[i , j-1], // deletion
- DTW[i-1, j-1]) // match
- return DTW[n, m]
- }
DTW实现的Python代码
- def dtw(X,Y):
- X=[1,2,3,4]
- Y=[1,2,7,4,5]
- M=[[distance(X[i],Y[i]) for i in range(len(X))] for j in range(len(Y))]
- l1=len(X)
- l2=len(Y)
- D=[[0 for i in range(l1+1)] for i in range(l2+1)]
- D[0][0]=0
- for i in range(1,l1+1):
- D[0][i]=sys.maxint
- for j in range(1,l2+1):
- D[j][0]=sys.maxint
- for j in range(1,l2+1):
- for i in range(1,l1+1):
- D[j][i]=M[j-1][i-1]+Min(D[j-1][i],D[j][i-1],D[j-1][i-1]+M[j-1][i-1])
5加速
DTW虽然使用线性规划可以快速的求解,但是在面对比较长的时间序列是,O(N2)的时间复杂度还是很大。已经有很多改进的快速DTW算法,比如FastDTW,SparseDTW,LB_Keogh,LB_Improved等等。