Insanely Fast Whisper 使用教程

Insanely Fast Whisper 使用教程

insanely-fast-whisper Incredibly fast Whisper-large-v3 项目地址: https://gitcode.com/gh_mirrors/ins/insanely-fast-whisper

1. 项目介绍

Insanely Fast Whisper 是一个基于 Whisper 大模型的快速音频转录工具。它通过优化 Whisper 模型，实现了在设备上以惊人的速度进行音频文件转录。该项目利用了 Transformes、Optimum 和 flash-attn 等技术，能够在 NVIDIA GPU 和 Mac 上运行，为用户提供了一种高效、快速的音频转录解决方案。

2. 项目快速启动

首先，确保您的系统中已安装 Python 环境。然后按照以下步骤进行操作：

# 安装 pipx
pip install pipx

# 使用 pipx 安装 Insanely Fast Whisper
pipx install insanely-fast-whisper

# 运行转录，替换 <filename or URL> 为您的音频文件路径或 URL
insanely-fast-whisper --file-name <filename or URL>

如果您使用的是 macOS 系统，还需要添加 --device-id mps 参数。

insanely-fast-whisper --file-name <filename or URL> --device-id mps

3. 应用案例和最佳实践

案例一：使用 CLI 进行快速转录

通过 CLI，您可以轻松地转录音频文件。以下是使用 Whisper-large-v3 模型进行转录的命令：

insanely-fast-whisper --file-name <filename or URL> --model-name openai/whisper-large-v3

案例二：使用 Flash Attention 2 提高效率

若要使用 Flash Attention 2，可以添加 --flash True 参数：

insanely-fast-whisper --file-name <filename or URL> --flash True

案例三：调整批量大小以避免内存溢出

如果您遇到内存溢出问题，可以尝试减小批量大小：

insanely-fast-whisper --file-name <filename or URL> --batch-size 12

4. 典型生态项目

以下是一些基于 Insanely Fast Whisper 的生态项目：

• ochen1/insanely-fast-whisper-cli：一个由社区成员创建的 CLI MVP 版本。
• arihanv/Shush：使用 NextJS 和 Modal 创建的前端和后端应用。
• kadirnar/whisper-plus：基于 Transformes 的优化版本的 Python 包。

以上教程介绍了如何使用 Insanely Fast Whisper 进行快速音频转录，以及一些最佳实践和典型案例。希望这些信息能帮助您更好地使用该项目。

insanely-fast-whisper Incredibly fast Whisper-large-v3 项目地址: https://gitcode.com/gh_mirrors/ins/insanely-fast-whisper