1.概述
android手机端部署deepseek一般需要安装termux,ollama,deepseek三个大的步骤
原因分析:deepseek等大模型需要类似ollama的工具去运行。ollama有mac window和linux版本,无Android版本;termux是一个模拟linux环境的Android app,在此环境中即可安装运行ollama linux版本,然后再ollama上面部署运行deepseek大模型。
2.安装 Termux
2.1.下载termux
一、github 仓库下载:
下载页面:Releases · termux/termux-app
下载地址:termux-app_v0.119.0-beta.1+apt-android-7-github-debug_universal.apk
二、百度搜索 termux,国内的软件平台也可下载
2.2.安装termux
下载后,使用adb命令安装: adb install termux-app_vxxx.apk
2.3.配置termux
一、更新相关配置和包:
pkg pdate && pkg upgrade
二、安装ollama运行相关包:
pkg install git cmake golang
三、配置ssh (非必须)
原因:手机上面操作命令行界面不方便,配置ssh后,电脑端可以通过ssh连接到termux进行操作
按如下表格内的命令顺序执行:
命令 | 输出 | |
1.安装ssh | pkg install openssh | |
1.启动ssh | sshd | 无 |
2.查看ip | ifconfig | ip地址,如192.168.1.122 |
3.查看端口 | 无 | 默认8022 |
4.设置密码 | passwd | new passwd: |
配置后,电脑端使用ssh工具,如MobaXterm连接termux更方便操作。
3.安装 ollama
3.1.下载ollama
3.1.1 命令方式
方式一下载并安装:该命令包含下载、编译和安装ollama
curl -fsSL https://ollama.com/install.sh | sh
方式二下载安装包:
curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
3.1.2 手动方式
由于网络原因,命令行方式可能无法下载,此时可以在电脑端电脑使用迅雷下载。
一、下载连接:https://ollama.com/download/ollama-linux-arm64.tgz
二、拷贝方式一:ssh:
如果前面电脑已经通过ssh连接到了termux,那么可以通过ssh将下载的tgz安装包拷贝到termux内指定的目录
三、拷贝方式二:adb:
1.使termux能访问手机存储:
termux-setup-storage
2.将安装包tgz通过adb 拷贝到手机storage目录中,termux内可直接访问到该压缩包文件
3.2.安装 ollama
备注:如果使用3.1.1 命令方式一下载的,无需此步骤
一、创建一个ollama目录
二、解压安装包到ollama目录:
tar -C ollama/ -xzf ollama-linux-arm64.tgz
ps: 如果是通过adb方式拷贝的,那么解压命令中后面的包目录可能是:storage/ollama-linux-arm64.tgz
三、安装:
cd ollama/bin/ ;
pkg install ollama;
4.下载和运行 deepseek
1.启动服务:
ollama serve &
2.加载启动大模型:
ollama run deepseek:r1-1.5b
如果本地没有此大模型,那么会先去下载,然后启动。
ps:下载大模型,有时候会出现前面速度很快,后面速度慢慢就慢下来了,此时可以ctrl+c 中断,然后重新执行上面的命令,会继续接着下载,速度也会恢复很多。
5.彩蛋
如果是小白,也可使用如下更简单的方法:
1.下载安装PocketPal AI APP:
https://github.com/a-ghorbani/pocketpal-ai/releases/download/v1.6.7/app-release.apk
2.下载deepseek r1 gguf格式模型 ,比如1.5b
3.启动PocketPal AI APP,在Models页面,点击右下角 + 号,再点击 “Add Local Model” ,在弹出的页面选择刚刚下载的xxx.gguf模型文件。Models列表里面就有选择的deepseek模型了,点击此列表项的load即可加载运行模型,发起会话。