DNN训练使用的CE准则是基于每一帧进行分类的优化,最小化帧错误率,但是实际上语音识别是一个序列分类的问题,更关心的是序列的准确性。所以引入SDT(sequence-discriminative training),训练准则更符合实际,有利于提升识别率。常用的准则包括MMI/BMMI、MPE、MBR等。
准则 | 目标函数 |
---|---|
CE | 帧错误率 |
MMI/BMMI | 句子正确率 |
MPE | phone错误率 |
sMBR | 状态错误率 |
MMI
MMI(maximum mutual information)准则最大化观察序列分布和word序列分布之间的互信息,减小句子错误率。
假设观察序列om=om1,...,omTmo m =o m 1 ,...,o m T m
其中zLmtz L