一. 资源准备
需要下载pocketpal,这是一个LLM的对话框输出软件,在这里用来显示和加载deepseek模型,官网下的太慢了,这里下好放123网盘了。
GitHub - a-ghorbani/pocketpal-ai: An app that brings language models directly to your phone.
↑↑↑这是pocketpal的GitHub仓库↑↑↑
↓↓↓这是pocketal和deepseek-r1的模型文件↓↓↓
安卓资源包官方版下载丨最新版下载丨绿色版下载丨APP下载-123云盘
全部下载好后转到手机上
二. 开始使用
安装pocketpal
运行之后找到“go to models”,然后单击加号,点击add local model
然后在弹出的文件管理器中找到刚刚下载好的模型,
(建议一般机型选1.5b的模型,新的旗舰机或16G运存以上的手机选7b的模型)
单击load运行,第一次运行需要等一下
作者的手机为snapdragon778G,8GB运存,实测1.5B的模型能跑到9.3tokens per second,内存占用2GB左右,还算可以,7b的模型还是算了,0.14tokens per second
三. 参数调整
左上角有三条杆,单击里面选择settings,内有非常多的设置项可以调,各位就自己去摸索一下吧
此外pocketpal还提供了很多模型去下载使用,如llama3等,但是下载极慢