whisper.cpp: Android端测试 -- Android端手机部署音频大模型

XiaoJ1234567

已于 2025-01-19 12:41:20 修改

阅读量1.1k

点赞数 10

分类专栏： LLM 文章标签： whisper android 智能手机 whisper.cpp 音频大模型 LLM

于 2024-12-21 21:05:23 首次发布

本文链接：https://blog.csdn.net/weixin_48267104/article/details/144636073

版权

LLM 专栏收录该内容

14 篇文章

订阅专栏

更多内容：XiaoJ的知识星球

whisper.cpp: Android端测试

1.环境需要

以下是经实验验证可行的环境参考，也可尝试其他版本。

（1）PC：Ubuntu 22.04.4

（2）硬件设备：Android 手机

（3）软件环境：如下表所示

工具	版本	安装
Anaconda	2021.05	参考：Anaconda3安装及使用
cmake	3.26.0	conda install -c conda-forge cmake
make	4.4.1	conda install -c conda-forge make
ndk	android-ndk-r26c	官网下载解压，设置环境变量
adb	1.0.41	conda install -c conda-forge adb
git	2.34.1	sudo apt-get update
sudo apt-get install git
git-lfs	3.6.0	sudo apt-get install git-lfs

2.构建项目

（1）克隆项目：

git lfs install
git clone https://github.com/ggerganov/whisper.cpp.git
cd whisper.cpp

（2）下载模型：

# 修改脚本./models/download-ggml-model.sh：
#      替换huggingface.co为镜像网站hf-mirror.com（因不能访问外网）
#src="https://huggingface.co/ggerganov/whisper.cpp"
src="https://hf-mirror.com/ggerganov/whisper.cpp"
    #src="https://huggingface.co/akashmjn/tinydiarize-whisper.cpp"
    src="https://hf-mirror.com/akashmjn/tinydiarize-whisper.cpp"

# 下载模型：下载其中一个 Whisper 模型 转换为 ggml 格式。例如：
sh ./models/download-ggml-model.sh base.en

（3）Android构建：

# 构建适用于 Android 的版本
$ cmake \
  -DCMAKE_TOOLCHAIN_FILE=$ANDROID_NDK/build/cmake/android.toolchain.cmake \
  -DANDROID_ABI=arm64-v8a \
  -DANDROID_PLATFORM=android-28 \
  -DCMAKE_C_FLAGS="-march=armv8.7a" \
  -DCMAKE_CXX_FLAGS="-march=armv8.7a" \
  -DGGML_OPENMP=OFF \
  -DGGML_LLAMAFILE=OFF \
  -B build-android
  
$ cmake --build build-android --config Release -j{n}
$ cmake --install build-android --prefix ${install-dir} --config Release
$ cp build-android/bin ${install-dir}

3.Android测试

（1）设备连接：确认设备连接好了，使用以下命令查看是否有adb设备连接：

$ adb devices

（2）push文件到设备：

$ adb shell "mkdir /data/local/tmp/whisper.cpp"
$ adb push ${install-dir} /data/local/tmp/whisper.cpp/
$ adb push ./models /data/local/tmp/whisper.cpp/
$ adb push ./samples /data/local/tmp/whisper.cpp/

（3）设备上运行：

$ adb shell
$ cd /data/local/tmp/whisper.cpp
$ export LD_LIBRARY_PATH=lib ./bin/main -f ${audio_file_16bit.wav}

注意，main示例仅使用 16 位 WAV 运行，因此请确保音频是此格式文件，如不是请转换格式。例如：

# mp3转wav
ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

声明：资源可能存在第三方来源，若有侵权请联系删除！