【AI语音基础】VAD/说话人识别/声纹

本文概述了基于深度学习的说话人识别任务,包括说话人验证、辨认(闭集与开集)和说话人分离(如VAD和话者分离),介绍了各类任务的定义、指标和挑战,以及其在会议、庭审等场景的应用。
摘要由CSDN通过智能技术生成

说话人识别(Speaker Recognition)任务

基于深度学习的声纹识别概述(Speaker Recognition Based on Deep Learning: An Overview) - 知乎

共计三种类型,

  • 说话人验证(speaker verification):已知注册人时,给定一条测试音频,来判断当前音频是否由目标说话人发出,关注点是能否准确的给出是或否的判断,是最简单的一个任务;(1:1识别)
  • 说话人辨认(speaker identification):已经注册N个人的时候,给定一个音频,判断当前音频是由哪个人发出的。(1:N识别)
    • 这个任务还可以根据说话人的识别范围划分为闭集和开集下的辨认,
      • 当确定说话人在注册声纹库里时,是一个N选一的有限范围选一个的闭集任务,
      • 当不确定当前音频是否在注册声纹库里时,是一个开集任务。
  • 说话人分离( diarization):在一段连续的语音中准确的切分出不同说话人对应的音频,diarization需要解决的通常是无重叠的音频。
    • 这里需要跟另外一个叫声源分离(Speaker separation)任务区分开来,声源分离,通常是解决鸡尾酒会的问题,就是我们的某一段音频中,不同人的说话会有重叠覆盖,这个时候我们任务是在混叠的声音中分离出不同人的声音,这个任务又是一个全新的方向,不在当前的文章里谈。

原链接Overview:Speaker Recognition Based on Deep Learning: An Overview

本文的参考文献共有311篇,从1964年到2020年的说话人识别论文都有涉及,系统的读参考文献也是了解入门的好方法,能清晰的看到几十年来人们一直在关注什么问题,用什么方法去尝试解决,又在哪些地方有突破性的进展。

新手语音入门(二): 声音检测VAD与话者分离技术简述

新手语音入门(二): 声音检测VAD与话者分离技术简述 |检测错误率 | 准确率 | 召回率 | 分离错误率DER-云社区-华为云

VAD

声音检测常用的指标是识别错率(Detection Error Rate),公式为

其中

  • False Alarm, 将非语音片段识别成为语音片段的时间,简称“狼来了”;
  • Missed Speech, 将语音片段识别成为非语音片段的时间,简称“脱靶”;
  • Total Duration of the Time, 参考语音标注片段的总时长。

新手语音入门(二): 声音检测VAD与话者分离技术简述 |检测错误率 | 准确率 | 召回率 | 分离错误率DER-云社区-华为云

正确率(Accurancy, 预测值将输入标签识别正确的比例),召回率(Recall,预测值中的语音片段占整体语音片段的比例)和准确率(Precision, 检测出来的语音标签中真正的语音标签的比例)。

话者分离 Speaker Diarization

语音会被划分为说话人组,语音非语音的片段或说话人转变等事件会被检测出来。在实际分离过程中,不需要知道说话人是谁

2.3. 评价标准

话者分离常用的指标是分离错误率(Diarization Error Rate, DER), 指三种错误类型的总和:

其中

  • False Alarm, 将非语音片段识别成为语音片段的时间;
  • Missed Speech, 将语音片段识别成为非语音片段的时间;
  • Speaker Confusion, 预测语音与参考语音的时间;
  • Total Duration of the Time, 参考语音标注片段的总时长。

Speaker Confusion的部分一般由匈牙利算法(Hungarian Algorithm)计算得来。并且常使用Score Collar加到音频片段的边际,以减少不连续标注引起的错误。

话者分离难点

  1. 事先不知道有多少个说话人;
  2. 不清楚说话人的ID;
  3. 多人同时说话;
  4. 不同语音的音频条件都不同。

用途

  • 会议。
  • 庭审。
  • 广播。
  • 质检。
  • 语音助手。

Spring Boot与前后端分离结合 RocketMQ的消息队列服务集成,一般分为以下几个步骤: 1. **环境准备**: - 安装并配置Spring Boot项目:确保已有一个基于Spring Boot构建的后端应用,比如Maven或Gradle项目。 - 安装RocketMQ服务器:下载RocketMQ的安装包,并按照官方文档设置环境。 2. **添加依赖**: - 添加RocketMQ客户端依赖到`pom.xml`(如果使用Maven)或`build.gradle`(Gradle)文件中: ```xml <dependency> <groupId>org.apache.rocketmq</groupId> <artifactId>rocketmq-client</artifactId> <version>4.x.x</version> </dependency> ``` - 如果需要生产者、消费者或消息队列相关的支持,可以单独添加对应组件的依赖。 3. **创建消息发送者/消费者**: - 使用Spring的`@Component`或`@Service`注解创建生产者和消费者的类。 - 创建RocketMQ的连接工厂和主题,例如: ```java @Autowired private RMQTemplate rabbitTemplate; public void sendMessage(String message) { rabbitTemplate.send("my-topic", new MessageBodyMessageConverter().convert(message)); } ``` - 对于消费者,需要订阅主题并处理接收到的消息。 4. **配置Spring Boot**: - 在`application.properties`或`application.yml`中添加RocketMQ的配置,如地址、端口、用户名等信息: ```properties rocketmq.broker.address=your-broker-ip:9876 rocketmq.default.consumer.group.id=my-consumer-group ``` 5. **启动应用**: - 启动Spring Boot应用,它会自动扫描到 RocketMQ的相关配置并初始化相应的连接。 6. **前端集成**: - 前端通过API调用发送消息(如果有HTTP API的话),或者通过WebSocket等方式实时监听队列中的消息变化。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值