Kaldi语音识别技术(二) ----- 完成数据的准备

已于 2022-11-16 22:26:48 修改
阅读量2.2k 收藏 6
点赞数 2
分类专栏： 学习笔记 语音识别基本法 文章标签： python 语音识别 人工智能
于 2022-10-30 21:03:59 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yxn4065/article/details/127602814
版权

Kaldi语音识别技术(二) ----- 完成数据的准备

本章节主要完成数据的准备部分

一、环境准备

  • 在之前章节我们已经基于CentOS7编译好了Kaldi 具体可见 http://t.csdn.cn/dnmkF ✔
  • 如果你不想自己编译，可以点击 下载克隆文件 （基于VMware16.2.x 的虚拟机磁盘）

实践主要基于 kaldi里面的 aishell1 示例，所以需要准备以下数据

  1. AISHELL-1_sample 数据集： https://yxn4065.lanzouv.com/b027veq2d 密码:7dvo
  2. lexicon.txt 词典 ：https://yxn4065.lanzouv.com/b027veq2d 密码:7dvo

Xshell7 安装配置好，pycharm可根据自身情况选择

二、完成训练数据准备

我的kaldi根目录为/root/kaldi/kaldi/,而/root/kaldi/是我后面进行各种操作的目录,不要搞混了.

  1. 在/root/kaldi/ 目录下 新建文件夹 如下图
    在这里插入图片描述
  2. 本机启动cmd窗口 使用scp命令上传文件,命令示例如下(自己ip地址不同）
scp ./AISHELL-1_sample root@192.168.242.129:/root/kaldi/data/
scp ./lexicon.txt root@192.168.242.129:/root/kaldi/data/dict
  1. 合并文件并重命名
cd ~/kaldi/data
mv AISHELL-1_sample S0
cd S0
mv S0150/* ./ && mv S0252/* ./ && rm -rf S0150 S0252

data 文件结构 如下图所示
在这里插入图片描述
4. 使用path.sh 文件 准备环境

cp /root/kaldi/kaldi/egs/wsj/s5/utils/path.sh /root/kaldi/utils/
# 更改 path.sh 里面的kaldi路径
vim /root/kaldi/utils/path.sh # 打开文件更改第一行为kaldi根目录位置
export KALDI_ROOT=`pwd`../kaldi
:wq 保存退出

# 刷新变量
. /root/kaldi/utils/path.sh

输入fst 按2次 tab 看环境是否配置成功,配置成功如下
在这里插入图片描述

三、生成四个数据文件

这里使用python进行文件处理，具体内容不详细展开了，直接放代码，所有代码放在/root/kaldi/utils路径下面
在这里插入图片描述

生成 wav.scp

# -*- coding: utf-8 -*-
# @Author : yxn
# @Date : 2022/10/22 17:11 
# @IDE : PyCharm(2022.2.3) Python3.9.13
"""
wav.scp wav_id --- wav_path 音频id对于音频路径
"""
import os


def sava_data(data, filename):
    """保存文件函数"""
    with open(os.path.join(save_path, filename), 'w', encoding="utf-8") as f:
        for i in data:
            f.writelines(i[0] + " " + i[1] + "\n")

    print("%s Saving succeeded!" % filename)


def get_wav_scp():
    """该函数用于生成wav.scp"""
    wav_scp = []  # 存放wav_scp 的数据
    # 遍历音频
    for file_name in os.listdir(data_path):
        # 判断后缀名是否为wav
        if file_name[-3:] == "wav":
            wav_scp.append([file_name.split(".")[0], os.path.join(data_path, file_name)])

    # 保存到文件
    sava_data(wav_scp, "wav.scp")


if __name__ == '__main__':
    # 数据文件存放路径
    data_path = "/root/kaldi/data/S0/" 
    # 保存的路径
    save_path = "/root/kaldi/kaldi_file/" 
    # 生成wav.scp
    get_wav_scp()

生成 utt2spk

# -*- coding: utf-8 -*-
# @Author : yxn
# @Date : 2022/10/22 17:11 
# @IDE : PyCharm(2022.2.3) Python3.9.13
"""
wav_id --- speaker_id 音频文件名对应说话人id
"""
import os


def save_data(data, filename):
    """保存文件"""
    with open(os.path.join(save_path, filename), "w", encoding="utf-8") as f:
        for i in data:
            f.writelines(i + "\n")

    print("%s Saving succeeded!" % filename)


def get_utt2spk():
    """生成utt2spk"""
    utt2spk = []
    for filename in os.listdir(data_path):
        if filename[-3:] == "wav":
            utt = filename.split(".")[0]  # 音频id
            spk = utt[-10:-5]  # 说话人id
            utt2spk.append(utt + " " + spk)

    # 保存文件
    save_data(utt2spk, "utt2spk")


if __name__ == '__main__':
    # 数据文件存放路径
    data_path = "~/kaldi/data/S0/"  # /root/kaldi/data/S0/
    # 保存的路径
    save_path = "~/kaldi/kaldi_file/"  # /root/kaldi/data/kaldi_file/
    # 生成utt2spk
    get_utt2spk()

生成 spk2utt

# -*- coding: utf-8 -*-
# @Author : yxn
# @Date : 2022/10/22 17:11 
# @IDE : PyCharm(2022.2.3) Python3.9.13
"""
speaker_id --- wav_id 说话人id对应音频文件名
"""
import os


def save_data(data, filename):
    """保存文件"""
    with open(os.path.join(save_path, filename), "w", encoding="utf-8") as f:
        for i in data:
            f.writelines(i + "\n")

    print("%s Saving succeeded!" % filename)


def get_spk2utt():
    """生成spk2utt"""
    spk2utt = {}
    for filename in os.listdir(data_path):
        if filename[-3:] == "wav":
            utt = filename.split(".")[0]  # 音频id
            spk = utt[-10:-5]  # 说话人id
            if spk in spk2utt:
                spk2utt[spk].append(utt)
            else:
                spk2utt[spk] = []
    # {'S0150': ['BAC009S0150W0002', 'BAC009S0150W0003',...'BAC009S0252W0500'],
    # 'S0252': ['BAC009S0252W0002', 'BAC009S0252W0003',... 'BAC009S0252W0500'] }

    write_spk2utt = []
    for key in spk2utt.keys():
        write_spk2utt.append(str(key) + " " + " ".join(spk2utt[key]))

    # 保存到文件
    save_data(write_spk2utt, "spk2utt")


if __name__ == '__main__':
    # 数据文件存放路径
    data_path = "~/kaldi/data/S0/"  # /root/kaldi/data/S0/
    # 保存的路径
    save_path = "~/kaldi/kaldi_file/"  # /root/kaldi/data/kaldi_file/
    # 生成spk2utt
    get_spk2utt()

生成 text

# -*- coding: utf-8 -*-
# @Author : yxn
# @Date : 2022/10/22 17:10 
# @IDE : PyCharm(2022.2.3) Python3.9.13
"""
wav_id --- wav内容 语音id->语音的内容 eg:BAC009S0150W0001 设定 二十九 度
"""
import os
import re
import jieba


def jieba_segment(data):
    """对数据进行相关处理并分词"""
    # 所有小写转大写
    data.replace(".", "点")
    data.replace("1", "一")
    data.replace("2", "二")
    data.replace("3", "三")
    data.replace("4", "四")
    data.replace("5", "五")
    data.replace("6", "六")
    data.replace("7", "七")
    data.replace("8", "八")
    data.replace("9", "九")
    data.replace("10", "十")
    # 纯数字不分词
    if sum([True for i in data if
            i in ["零", "一", "二", "三", "四", "五", "六", "七", "八", "九", "十", "幺"]]) == len(data):
        return " ".join(data)
    else:
        # 调用jieba库进行处理
        return " ".join(jieba.lcut(data)).replace("   ", " ")


def data_processing(text):
    """对单行文本进行分词处理后返回"""
    # 1.使用正则表达式进行处理 去掉括号等特殊字符
    re_text = re.findall('[\u4e00-\u9fa5a-zA-Z0-9. ]+', text, re.S)
    re_text = "".join(re_text)  # 将正则后列表转为字符串
    # 2.进行jieba分词后返回
    return jieba_segment(re_text)


def get_text():
    data = []
    """得到text"""
    for file_name in os.listdir(data_path):
        # 判断后缀名是否为txt
        if file_name[-3:] == "txt":
            # 打开对应的文本
            with open(os.path.join(data_path, file_name), "r") as f:
                for line in f.readlines():  # 读取文本内容
                    # 1.预处理去掉换行和前后空格
                    line = line.strip("\n").strip()
                    # 2.取出文本进行预处理
                    line2 = data_processing(str(line))
                    # 3.添加到待保存数组
                    data.append([file_name.split(".")[0], line2])

    # 4.保存文件
    save_data(data, "text")


def save_data(data: list, filename):
    """保存最终结果"""
    with open(os.path.join(save_path, filename), "w", encoding="utf-8") as f:
        for i in data:
            f.writelines(i[0] + " " + i[1] + "\n")

    print("%s Saving succeeded!" % filename)


if __name__ == '__main__':
    # 数据文件存放路径
    data_path = "~/kaldi/data/S0/"  # /root/kaldi/data/S0/
    # 保存的路径
    save_path = "~/kaldi/kaldi_file/"  # /root/kaldi/data/kaldi_file/
    # 是否添加用户自定义词典
    # jieba.load_userdict("./userdict.txt")
    # 生成text主函数
    get_text()

生成词典文件

这里我们用的弄好的词典,可以忽略这步

# -*- coding: utf-8 -*-
# @Author : yxn
# @Date : 2022/10/2 19:55 
# @IDE : PyCharm(2022.2.1) Python3.9.13

def get_lexicon(data):
    """生成词典"""
    lexicon = set()
    with open(data, "r", encoding="utf-8") as f:
        for i in f.readlines():
            # 将原有词典首列去重添加到自定义词典中
            [lexicon.add(x) for x in i.strip("\n").strip().split(" ")]

    # print(lexicon)
    # print(len(lexicon))
    with open("../jieba/lexicon.text", "w", encoding="utf-8") as f:
        for i in lexicon:
            f.writelines(i + "\n")
    print("lexicon.text生成成功! ")


if __name__ == '__main__':
    data_path = "./text"
    get_lexicon(data_path)

查看是否准备成功

先运行py文件生成数据 如下所示
在这里插入图片描述

再使用fix_data_dir.sh判断这四个文件是否符合标准

cd /root/kaldi/kaldi/egs/wsj/s5
utils/fix_data_dir.sh /root/kaldi/kaldi_file/

四个文件均准备成功输出如下:
在这里插入图片描述

Python-AI Xenon
关注
  • 2
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
Kaldi - 数据文件准备
伊织看世界
02-09 421
数据文件准备 wav.scp utt2spk spk2utt text 相关代码 根据文件生成 utt2spk 和 wav.scp utt2spk -- spk2utt 转换
Dan介绍Kaldi2的ppt
12-13
kaldi2 ASR
kaldi入门：搭建第一个中文ASR (AISHELL-1)
Ephemeroptera的博客
08-03 8515
欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。 新的改变 我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我们增加了如下几点新功能，帮助你用它写博客： 全新的界面设计 ，将会带来全新的写作体验； 在创作中心设置你喜爱的代码高亮样式，Markdown 将代码片显示选择的高亮样式 进行展示； 增加了 图片
kaldi解码流程
qq_14962179的博客
01-07 2607
1.解码之前工作： 首先训练好模型，用到4个文件： final.mdl（训练得到的声学模型文件） final.mat(用来特征转换) HCLG.fst（fst文件） words.txt（字典文件） 此外还要提供带解码音频文件或路径.scp文件： wav.scp(音频路径.scp文件) 2.流程图： 2.使用compute-mfcc-feats提取特征，有时也会加上基音周期，用compute-ka...
10万元奖金语音识别赛进行中！CTC 模型 Baseline 助你轻松上分
Paper weekly
02-28 884
随着互联网、智能硬件的普及，智能音箱和语音助手已经深入人们的日常生活，家居场景下的语音识别技术已成为企业和研究机构竞相追逐的关键技术。目前，由北京智源人工智能研究院、爱数智慧、biend...
kaldi数据准备，Subtools数据准备，详细分享Asv-Subtools数据准备，小白必看！
JYT666666的博客
12-25 796
有没有刚开始接触kaldi的小伙伴们，也像我一样，感觉理论很多，但是上手就崩。俗话说：“万事开头难”，数据准备就是kaldi实验的开始。因为我上手直接学习，我绕过kaldi，直接学习使用asv-subtools。但是subtools里面没有关于数据准备的代码。网上关于asv-subtools的内容也少之又少。然而kaidl和subtools的数据准备一样。所以我就把目光投向了kaldi的数据处理。我想通过kaldi学习有关数据的处理。kaldi数据准备，asv-subtools数据准备，小白必看！~
kaldi_关于数据预处理
技术札记
10-30 596
kaldi关于数据预处理 基本数据 四个预处理文件 wav.scp 每条语音的 ID 及其存储路径 wav_id(音频id) wav_path(文件路径) sen_1 /home/kaldi/data/sen_1.wav sen_2 /home/kaldi/data/sen_2.wav text 每条语音的 ID 及其对应文本 wav_id(音频id) text(文本) sen_1 中国共产党成立100周年 utt2spk 每条语音的 ID 及其说话
Python提取出大量音频或文件的路径
xiangwentao的博客
11-09 665
Python提取出大量音频或文件的路径
wenet-基于预训练模型进行增量训练
流音寻帆的博客
06-02 2485
将本地准备好的F:/wenet数据集/0529_0531_merge/chuli下的train、dev、test中的text、wav.scp两个文件分别拷贝到远程/hy-tmp/wenet/examples/aishell/s0/data下对应的train、dev、test文件夹下。将准备好的数据文件0529_0531_dataset，上传到恒源云上的/hy-tmp/wenet/examples/aishell/s0下。其中0529_0531_dataset是前面上传的训练数据文件夹。
语音识别大神dan-povery介绍kaldi的ppt.rar
10-30
附件是语音识别大神dan-povery介绍kaldi的ppt，虽然时间有点早，但是内容都很基础，kaldi新手入门必看，有讲kaldi中数据的一般格式和语音识别的一般流程
kaldi-german:训练Kaldi进行德语语音识别（ASR）的脚本
05-22
使用Kaldi的德语语音识别 用于训练Kaldi模型以进行德语语音识别的脚本。 数据/ LM /词典 首先，我们必须获取数据，语言模型和词典。 要获取数据，请遵循的步骤。 从下载LM。 从下载该词典。 准备 在训练之前，...
AISHELL-1-sample数据集
10-31
包括 AISHELL-1_sample数据集 和词典
Python-ESPnet端到端语音处理工具集
08-09
主要侧重于端到端语音识别和端到端的文本到语音转换。 ESPnet使用chainer和pytorch作为主要的深度学习引擎，并遵循Kaldi风格的数据处理，特征提取/格式和配方，为语音识别和其他语音处理实验提供完整的设置。
zamia-speech:用于无云自动语音识别的开放工具和数据
05-02
用于从voxforge.org语音数据和许多来源计算音频和语言模型的Python脚本。 可以构建的模型包括： Kaldi nnet3链音频模型 ARPA格式的KenLM语言模型 sequitur g2p型号 wav2letter ++模型 重要说明：请注意，这些脚本绝...
Ansible 指定受控端使用Python的版本
shijin741231的博客
04-20 597
最近在装Ansible，有一台受控端Ubuntu16的服务器，安装了Python2.7.12和Pyhon3.5。当用Ansible连接它时，显示使用的是Python3.5。最后看文档，发现Ansible可以在hosts的文件中指定受控服上运行的Python。
【编译程序介绍】
武帝为此的博客
04-22 1210
简单来说，编译程序是一个软件，它读取用某种编程语言编写的源代码，分析并转换成等效的、可执行的机器语言代码。这个过程涉及多个复杂的步骤，包括语法分析、语义分析、代码优化和代码生成等。
[python3] 读取一个正在更新的日志文件
最新发布
言之。
04-24 235
等同于–follow=name --retry，根据文件名进行追踪，并保持重试，即该文件被删除或改名后，如果再次创建相同的文件名，会继续追踪。这两种方法都会持续监听日志文件的变化，并实时读取新增的日志内容。你可以根据实际需求选择其中一种方法。要读取一个正在更新的日志文件（即实时写入的日志文件），你可以使用 Python 的。的技巧来实现实时读取。函数打开文件，并使用。
实现自定义注解、实现自定义幂等性注解
qq_44721738的博客
04-23 597
添加 Spring AOP 依赖。创建自定义注解。创建一个新的 Java 注解类，通过@interface关键字来定义，并可以添加元注解以及属性。@Target(ElementType.METHOD) //表示作用于方法上@Retention(RetentionPolicy.RUNTIME) // 表示这个注解在运行时是可见的，这样 AOP 代理才能在运行时读取到这个注解编写 AOP 拦截（自定义注解）的逻辑代码。@Aspect@Component// 方法执行前的处理。
conda kaldi
09-20
conda kaldi是一个使用conda来安装和管理Kaldi语音识别工具包的方法。你可以按照以下步骤来安装和配置conda kaldi： 1. 首先，创建一个名为kaldi365的conda环境，并安装Python版本为3.6.5： ``` conda create -n kaldi365 python=3.6.5 ``` 2. 激活kaldi365环境： ``` conda activate kaldi365 ``` 3. 进入你的Kaldi项目目录，例如： ``` cd /home/zhijian/project/python/kaldi-master/tools ``` 4. 安装所需的Python库： ``` pip install -r requirements.txt ``` 5. 使用conda安装pykaldi（如果需要使用GPU，请使用适合的conda安装命令）： ``` conda install -c pykaldi pykaldi ``` 完成以上步骤后，你就成功地使用conda安装和配置了kaldi。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Python-AI Xenon

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值