PocketPal的使用教程如下:
1.下载安装
- iOS系统:打开App Store,搜索“PocketPal”,点击下载并安装。
- Android系统:前往Google Play商店,搜索“PocketPal”,找到应用后点击下载安装。(文末有链接)
2.添加模型
- 打开PocketPal应用,点击“Download Model”选项。
- 点击页面右下角的加号“+”。
- 选择“Add from hugging face”,可从Hugging Face平台添加模型(需要魔法上网)。
- 在模型列表页下方搜索框中搜索你需要的模型,如deepseek等,根据设备情况选择合适的模型进行下载。
- 若想添加本地模型,可选择“Add local model”,找到已下载好的模型文件进行导入。文末有链接下载完拷贝到手机存储中添加就好,第一次加载会有点慢。
3.加载与使用
- 模型下载完成后,在“Models”列表中点击对应模型的“Load”按钮进行加载。
- 加载完成后即可开始使用,在聊天界面输入问题等内容,与AI进行交互。
用了OPPO Reno9pro 流畅运行Deepseek 7B模型,不过聊天感觉还是有点傻。
4.设置优化
- 可在“Settings”中进行相关设置,如将“N PREDICT”设置为4096,开启Metal等。
- 还可对模型的系统提示符、温度参数、BOS令牌和聊天模板等进行个性化调整。
安卓软件包和下好的,gguf模型包,需要的转存下载。