罗艺讲的知识:
此外还有对训练目标和训练任务上的一些探索。Wavesplit引入说话人特征进行分离。该模型首先在一个固定时间窗内计算说话人向量,然后通过聚类计算出全局向量。之后将说话人信息送入分离网络得到分离结果
先提取出额外的说话人的信息,生成一个向量,再把这个向量一起放到分离网络中。
这种方法,对于那种不是完全重叠的混合语音可能更加适合,而且更加适用于多人说话的混合语音。
原始论文:
分为两个模块:speaker stack和separation stack模块。
speaker模块可以从混合语音中映射出一组代表被记录的说话人的向量。(可以参考VoicesFilter中的声纹识别,他是有参考语音进行处理的,这里直接是进行特征聚类)
separation模块吸收上面传递下来的向量,和混合的语音信息,得到对应不同的多人的分离语音。