android手机上部署使用ollama

手机按装Termux

termux是一个终端界面

Releases · termux/termux-app · GitHubTermux - a terminal emulator application for Android OS extendible by variety of packages. - Releases · termux/termux-apphttps://github.com/termux/termux-app/releaseshttps://github.com/termux/termux-app/releases

termux-setup-storage命令用于授予 Termux 应用访问 Android 设备上共享存储的权限

授予存储访问权限

termux-setup-storage

更新和升级包

pkg update
pkg upgrade

 按装pkg install proot-distro

 pkg install proot-distro

好proot-distro后安装debian

切换清华源

termux-change-repo

装一个微小的linux虚拟机

proot-distro install debian

按装完登录系统

proot-distro login debian

或者 

pd login debian

 下载ollama代码

curl -fsSL https://ollama.com/install.sh | sh

启动服务

ollama serve

运行Phi-3 Mini模型

ollama run phi3:mini

ollama run llama3.2:3b --verbose

ollama run llama3.2:1b

ollama run qwen2:0.5b

ollama run phi3

ollama run qwen2.5

 

  llama3.2:1bMeta's Llama 3.2 goes small with 1B and 3B models. https://ollama.com/library/llama3.2:1bhttps://ollama.com/library/llama3.2:1b

查看正在运行的模型

ollama ps

显示模型信息

ollama show

从注册表中拉去模型

ollama pull 模型名称

将模型推送到注册表

ollama push 模型名称

列出模型

ollama list

复制模型

ollama cp

删除模型

ollama rm 模型名称

Ctrl+D 退出聊天终端。

终止响应过程，请按 Ctrl+C 停止生成响应。

如果发现响应速度太慢，你可以尝试使用 Llama 3.2 1B 型号

也可以自己编写程序来访问localhost:11434 来调用这个ollama的服务