在安卓手机上使用Ollama运行本地大模型

已于 2025-02-02 12:21:29 修改
阅读量1.8k 收藏 10
点赞数 7
文章标签： chatgpt deepseek llama
于 2025-02-02 12:06:04 首次发布
https://www.hestudio.net/docs/copyright.html
本文链接：https://blog.csdn.net/a18845594188/article/details/145418901
版权

众所周知，我们国产模型DeepSeek大过年的给美股来了几下子，在我们过年的时候让洋人过不了一个安稳年（滑稽）。直到我写这篇帖子的时候，DeepSeek 的部分服务仍然处于一个不可用的状态。

本着增强动手能力（整活）的心态，我决定在我的手机上安装一个deepseek-r1模型。由于在电脑上安装过于简单，将不再赘述。

需要的东西

  • 一部手机
  • Termux

演示条件

  • 手机：REDMI K80 Pro （王腾有大帝之姿）
  • Termux: ZeroTermux1 0.118.1.41

正文

本文开始前，假设你熟练掌握 Linux 的使用方法，并可以正常访问国际互联网。

由于手机的性能就摆在那里，所以只能使用1.5b的模型。在开始前，假设你已经安装 Termux。

手机无 Root 环境。(有 Root 更好)

经过测试，在这里应该使用 Proot 容器，无法直接在 Termux 中运行，我这里使用的是Kali容器2，你也可以使用其他容器，如ubuntu.

使用手机打开Ollama Linux Manual install的ARM64 install(毕竟手机是 arm64 架构)，并复制第一行命令到终端（不要带上第二行）。

在运行之后将会下载 Ollama 的安装包，在下载完之后，复制第二行命令，并删去开头的sudo（由于 Termux 特性），然后运行。

如果你懒的话，可以复制我整理好的命令。

curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz && tar -C /usr -xzf ollama-linux-arm64.tgz

由于没有 root 环境，无法使用"Adding Ollama as a startup service (recommended)"步骤，我们要手动启动一下 ollama 服务。

ollama serve &

Linux 在执行命令时，可以使用&符号来使该命令在后台运行，而不阻塞终端的使用。当了解这一点之后我们就可以编写命令。

然后就可以根据自己的需要运行模型。就比如说，我要运行一个deepseek-r1:1.5b的模型，就可以这样写：

ollama run deepseek-r1:1.5b

其他内容详见Ollama.

  1. ZeroTermux 是 Termux 的修改版本。 ↩︎

  2. 【4.0】在 Android 手机上安装 kali Linux ↩︎

如何在 Android 手机上运行 Llama 3.2，使用 Ollama 在 Android 上运行 Llama 3.2 和其他大型模型的分步指南
iCloudEnd的博客
10-01 2182
在刚刚落下帷幕的 Meta 开发者大会上，Llama 3.2 惊艳亮相，这次不仅拥有多模态能力，还与 Arm 等公司合作，推出了专门针对高通、联发科硬件优化的“移动”版本。具体来说，Meta 发布了四种型号的 Llama 3.2：具有 110 亿和 900 亿个参数的多模态版本具有 10 亿和 30 亿个参数的轻量级纯文本模型据官方数据显示，Llama 3.2 11B与90B已展现出超越同等尺寸闭源型号的性能。
使用 Ollama 、 DeepSeek和QWEN的模型上下文协议 (MCP) ，使用本地 LLM 教程的 MCP 服务器
最新发布
iCloudEnd的博客
04-06 369
模型上下文协议：MCP 服务器据称是 AI 领域的下一个重大改变者，它将使 AI 代理变得比我们想象的更加先进。MCP 或模型上下文协议由 Anthropic 去年发布，它可以帮助 LLM 连接软件并对其进行控制。但有一个问题大多数 MCP 服务器都与 Claude AI 兼容，尤其是 Claude AI 桌面应用程序，但它们有自己的限制。有没有办法我们可以使用本地 LLM 运行 MCP 服务器？
android手机上使用ollama快速验证大模型
SecularBird的专栏
08-04 2964
Android 手机上方便的测试各种模型的一个方法那就是配置ollama服务，借助ollama的能力下载不同的模型进行测试。
使用ollama分别在我的window、mac、小米手机上部署体验llama3-8b
2401_85327249的博客
06-06 1729
应该说llama3给与了开源模型更广阔的思考空间，期待开源模型更大的进步让我们拭目以待。同时希望Meta在接下来的时候能将llama3-400的发布。就在实验此文章的过程中也发现了：高通与Meta宣布合作，优化Meta新推出的Llama 3大语言模型在骁龙终端上的运行。Llama 3有两种版本，分别为80亿和700亿参数，旨在为智能手机、PC、VR/AR头显和汽车等设备提供强大的开源语言模型支持。
在Android手机上本地安装运行DeepSeek-R1:7B大模型
AirBy/ByAir的专栏
02-07 781
使用开源工具Termux + Ollama + DeepSeek-R1 在小米手机Mi 11 Ultra本地上跑DeepSeek-R1大模型。
Android APP 集成本地大模型 LLM
zxm317122667的专栏
12-24 870
这篇文章介绍如何在Android项目中集成大模型LLM，并展示大模型 text-to-text 结果。主要依赖如下2项：MediaPipeGemma 2BMediaPipeGoogle 在2017年发布了 TensorFlow Lite， 它是一个用于在Mobile和IoT上进行 ML 推断的轻量级框架。主要用于将 TensorFlow 模型转换为适用于移动设备(Android、IOS)的轻量级模...
Llama 3.2 安卓手机安装教程
新缸中之脑
10-05 2343
在刚刚结束的Meta开发者大会上，Llama 3.2惊艳亮相。此次，它不仅拥有多模态能力，还与Arm等公司合作，推出了专门针对高通、联发科硬件优化的“移动”版本。根据​​官方数据，Llama 3.2 11B和90B已经展现出超越同等规模闭源模型的性能。尤其是在图像理解任务上，Llama 3.2 11B的表现优于Claude 3 Haiku，90B版本甚至可以与GPT-4o-mini相媲美。
使用 Ollama（Windows 和 Mac）+ 终端/UI 集成在本地运行 DeepSeek R1
iCloudEnd的博客
02-01 256
Ollama是一种工具，可让您在本地机器上运行大型语言模型 (LLM)，而无需云依赖。✔️为什么使用 Ollama？易于安装和模型管理离线工作（下载模型后）支持多种AI模型（DeepSeek，LLaMA，Mistral等）
浅谈人工智能之chatbox和ollama本地大模型配置
测试人，测试魂
02-12 931
随着人工智能技术的飞速发展，大模型（如GPT、BERT等）在自然语言处理领域取得了显著成果。然而，这些模型通常需要大量的计算资源，这使得它们在云端运行成为一种常见的选择。但是，对于一些对数据隐私有严格要求的应用场景，或者需要低延迟响应的场景，本地部署大模型成为了一种可行的选择。本文将探讨如何在本地环境中配置和使用两个流行的大模型框架：Chatbox和Ollama。
DeepSeek通过Ollama部署在本地运行以及概括ChatBox对话
2202_75816490的博客
02-01 1019
通过Ollama本地部署DeepSeek模型，本地对话，以及补充通过chatbox与本地模型对话等操作，简要明细！
[AI]从零开始的安卓手机本地运行DeepSeek模型教程
c858845275的博客
02-25 1138
讲解了如何安装Termux以及如何使用Termux运行DeepSeek模型！
在你的手机上跑本地AI大模型
weixin_72309717的博客
06-01 1320
现阶段，本地手机流畅的跑大模型还比较困难，但是可以勉强跑跑10B以下的模型，比如Qwen1.8B, 我用MLC框架就可以跑起来，而且速度还相当可以。可以想象，随着手机硬件性能越来越高，在不远的将来，手机本地可以很流畅的跑任何AI大模型。或者用llama.cpp跑GGUF格式的大模型，我尝试过在手机上用koboldcpp跑CausalLM-7B，也勉强可以接受，Github上也有教程，Termux上跑即可。总之，手机本地跑大模型还有待时日，但应该是个趋势，请多关注吧。
ollama多平台部署方案
weixin_37841024的博客
08-26 2984
通过 ollama -v 来查看安装的版本，如果打印出来也就说明安装成功了 然后再通过 ollama serve 开启 ollama 的服务，注意当前这个命令行窗口暂时不要关闭，关闭了则代表 ollama 服务也暂时停止了，可以打开另外一个命令行窗口进行下载和使用大模型 同样的命令。ollama和huggingface 给与了像我这样的普通人，就能很方便的了解AI大模型，并且在本地运行大模型，真的太高兴了，接下来有机会会继续尝试其他的可能性。但是写代码的体验还算不错的，虽然上面的代码可能是不对的。
无需网络，手机上轻松部署本地大模型
2401_85390073的博客
12-22 3942
一旦模型加载完成，进入“聊天”页面并开始与加载的模型对话！生成性能指标也会显示。如果感兴趣，可以通过观察聊天气泡查看实时性能指标：每秒令牌数和每个令牌的毫秒数。
推荐5个免费Ollama WebUI客户端
m0_59163425的博客
10-13 8622
我们推荐5款开源免费的Ollama WebUI客户端，帮助您了解Ollama本地模型框架，轻松掌握其优缺点，提升您的使用体验。Ollama 的模型在本地运行，所有用户生成的数据都存储在本地，使其安全且私密，无需审查，有效满足您的数据隐私需求。而且，对于本地运行的应用程序来说，这种方法不仅提高了效率，而且消除了对网络环境的依赖。尽管Ollama可以在本地部署模型服务，但其原生交互界面是基于命令行的，这不允许用户轻松地与AI模型交互。
【LLM大模型】谷歌AI杰玛Gemma大模型开源了！附2个本地部署安装教程和实例
pythonhy的博客
08-07 1343
Gemma 是一个轻量级、先进的开放模型系列，采用与创建 Gemini 模型相同的研究和技术构建而成。Gemma 由 Google DeepMind 和 Google 的其他团队开发，以拉丁语 gemma（意为“宝石”）命名，中文名杰玛。Gemma 模型权重由促进创新、协作和负责任地使用人工智能 (AI) 的开发者工具提供支持。
Ollama
AI工程化、开源分享、文档翻译、代码笔记
03-05 5597
安装使用 Ollama 客户端 Model library 自定义一个模型 从 GGUF 导入 从 PyTorch 或 Safetensors 导入 自定义一个 prompt CLI Reference 创建一个模型 拉取 model 删除一个 model 复制模型 多行输入 多模态模型 传递prompt 作为参数 列出你电脑上的模型 开始 Ollama 构建 运行本地 builds REST API 生成响应 和一个模型对话 使用 Ollama Python Library 安装 使用 流式响应 REST
[Termux] 安卓机ollama+deepseek-R1部署
UCAS_HMM的博客
02-11 1287
本文介绍在硬件资源受限场景下，借助安卓手机（小米 8 SE）与 Termux ，搭配 iTerm2 等电脑终端，完成 ollama 安装及模型运行。在手机通过命令启动 ubuntu 系统，下载并运行安装脚本（含 1.4GB 安装包下载及快速安装）。运行 deepseek - R1 模型时，后台启动 ollama，因内存限制选 1.5B 参数模型（首次运行下载约 1.1GB 文件），运行 ollama serve 后开启 11434 端口测试。最后在 chatboxai 配置 OLLAMA API，实现对话
手机本地部署大模型
04-02
好的，用户想在手机上本地部署大型机器学习模型，我需要先了解当前可行的方法和工具。首先，手机端的资源有限，特别是内存和计算能力，所以直接部署大模型可能比较困难。不过，最近有一些优化技术，比如模型量化、...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

醉、倾城

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值