Orpheus TTS：开源语音克隆王炸！200ms延迟+情感操控，Llama3引爆音效革命

本文链接：https://blog.csdn.net/qq_19841021/article/details/146406601

❤️ 如果你也关注 AI 的发展现状，且对 AI 应用开发感兴趣，我会每日分享大模型与 AI 领域的开源项目和应用，提供运行实例和实用教程，帮助你快速上手AI技术！

🥦 AI 在线答疑 -> 智能检索历史文章和开源项目 -> 丰富的 AI 工具库 -> 每日更新 -> 尽在微信公众号 -> 搜一搜：蚝油菜花 🥦

🗣️ “声优界连夜报警！这个开源TTS能克隆任何人声，200ms延迟碾压Siri”

大家好，我是蚝油菜花。当同行还在为AI语音的机械感头疼时，这个开源模型已经让「声纹诈骗」走进创作领域！

你是否被这些AI魔音逼到崩溃：

🤖 语音助手说话像没感情的报丧女妖
🎙️ 想克隆自己声音要先录300句话
⏳ 实时变声延迟高到像在看PPT…

今天解密的 Orpheus TTS ，正在重写语音合成法则！这个基于Llama-3b架构的开源核弹，用三大黑科技炸穿次元壁：

✅ 5秒克隆术：零样本复刻任何人声，连呼吸停顿都完美还原
✅ 情感调色盘：输入[悲伤][激昂]标签直接操控语音情绪
✅ 闪电嘴炮：200ms延迟实现实时变声，直播连麦毫无压力

已有团队用它批量生产虚拟偶像声库，文末附《声优失业警告：AI变声调教指南》——你的声带准备好迎接赛博进化了吗？

🚀 快速阅读

Orpheus TTS 是一个基于 Llama-3b 架构的开源文本到语音系统。

核心功能：支持自然语音生成、零样本语音克隆、情感引导和低延迟流式处理。
技术原理：基于大规模数据训练、非流式分词器和 SNAC 解码器，实现高效语音合成。

Orpheus TTS 是什么

Orpheus TTS 是基于 Llama-3b 架构的开源文本到语音（TTS）系统。它能够生成自然、富有情感且接近人类水平的语音，具备零样本语音克隆能力，无需预训练即可模仿特定语音。Orpheus TTS 的延迟低至约 200 毫秒，适合实时应用。

Orpheus TTS 提供多种预训练和微调模型，用户可以通过少量数据进行定制化训练，满足不同场景的语音合成需求。无论是生成有声读物、虚拟助手语音，还是为游戏角色定制声音，Orpheus TTS 都能提供高效的解决方案。

Orpheus TTS 的主要功能

接近人类水平的语音：提供自然的语调、情感和节奏。
零样本语音克隆：无需预训练即可克隆特定语音。
情感和语调引导：通过简单标签控制语音的情感和语调特征。
低延迟：实时应用的流式延迟约为 200 毫秒，输入流式处理可将延迟降低到约 100 毫秒。
支持多种语音风格：提供多种预设的语音风格（如“tara”、“leah”等），用户可根据需要选择不同的语音角色进行合成。

Orpheus TTS 的技术原理

Orpheus TTS-architecture

基于 Llama 架构：Llama-3b 作为基础模型架构，结合强大的语言理解和生成能力，在语音合成中更好地处理自然语言的复杂性。
大规模数据训练：模型在超过 10 万小时的英语语音数据和数十亿文本标记上进行预训练，基于大量的语音和文本数据学习语言的韵律、语调和情感表达。
非流式分词器和 SNAC 解码器：使用非流式（CNN 基础）分词器和 SNAC 解码器，基于改进的解码器实现无间断的流式语音合成，避免传统方法中可能出现的音频“爆音”问题。
实时流式推理：基于高效的 vLLM（非常规语言模型）实现，在 GPU 上快速生成语音，支持实时输出和输入流式处理，满足低延迟的实时应用需求。
情感和语调引导：模型在训练数据中引入情感标签和文本-语音对，学习不同情感状态下的语音特征，支持用户通过标签控制语音的情感和语调。

如何运行 Orpheus TTS

1. 简单设置（Colab）

微调模型 Colab：点击这里
预训练模型 Colab：点击这里

2. 流式推理示例

2.1. 克隆仓库：

git clone https://github.com/canopyai/Orpheus-TTS.git

2.2. 安装依赖：

cd Orpheus-TTS && pip install orpheus-speech

2.3. 运行示例代码：

from orpheus_tts import OrpheusModel
import wave
import time

model = OrpheusModel(model_name ="canopylabs/orpheus-tts-0.1-finetune-prod")
prompt = '''Man, the way social media has, um, completely changed how we interact is just wild, right? Like, we're all connected 24/7 but somehow people feel more alone than ever. And don't even get me started on how it's messing with kids' self-esteem and mental health and whatnot.'''

start_time = time.monotonic()
syn_tokens = model.generate_speech(
  prompt=prompt,
  voice="tara",
  )

with wave.open("output.wav", "wb") as wf:
  wf.setnchannels(1)
  wf.setsampwidth(2)
  wf.setframerate(24000)

  total_frames = 0
  chunk_counter = 0
  for audio_chunk in syn_tokens: # output streaming
     chunk_counter += 1
     frame_count = len(audio_chunk) // (wf.getsampwidth() * wf.getnchannels())
     total_frames += frame_count
     wf.writeframes(audio_chunk)
  duration = total_frames / wf.getframerate()

  end_time = time.monotonic()
  print(f"It took {end_time - start_time} seconds to generate {duration:.2f} seconds of audio")