Pot-App 本地deepseek-r1 翻译开源插件,支持本地ollama deepseek-r1系列模型,同时在POT翻译窗口不显示模型思考过程

一、软件介绍

文末提供插件及源码下载

此开源插件作為支持本地ollama deepseek-r1系列模型,並在POT输出窗口中不显示模型思考过程。

模型安装(根据自己的电脑配置安装相应版本,支持官方1.5b~8b)

Ollama模型网址:deepseek-r1 以7b为示例,确保您已安装Ollama后,在CMD终端输(命令提示字元)入以下命令

<span style="background-color:var(--bgColor-muted, var(--color-canvas-subtle))"><span style="color:#1f2328"><span style="color:var(--fgColor-default, var(--color-fg-default))"><span style="background-color:var(--bgColor-muted, var(--color-canvas-subtle))"><code>$ollama run deepseek-r1:7b
</code></span></span></span></span>

如果无法直接用Ollama指令直接下载7b模块,可改用 LM Studio软件下载或到 Hugging Face网站下载,我下载的Model版本是:deepseek-r1-distill-qwen-7b,量化大小:Q4_K_M,大小为4.68GB左右。

 详细步骤如下:

1.下载7b模块后,到存放模组的文件夹中,会看到文件名:DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf。

 2.新增一个空白记事本内容添加一行如下:

来自 D:\models\Publisher\Repository\lmstudio-community\DeepSeek-R1-Distill-Qwen-7B-GGUF\DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf


记得将D:\models..... 改成你存放模块的文件夹路径,然后将该记事本另存新文件,文件名为:Modelfile,没有扩展名,并将该文件存放在模块同阶层文件夹。

 3.查看11434 port有无被占用

因为运作本地端DeepSeek需使用11434接口,使用Windows打开CMD命令提示字符,执行:

$netstat -ano |findstr:11434

 如果结果显示类似:

TCP 127.0.0.1:11434 0.0.0.0:0 侦听 12345

这表示 PID 为 12345 的程序已经占用该端口,请结束占用 12345 端口的程序,指令如下:

$taskkill /PID 12345 /F(请将 12345 替换为你查到的 PID)

 4.到您刚才存放7b模块的路径底下,如:

$cd D:\models\Publisher\Repository\lmstudio-community\DeepSeek-R1-Distill-Qwen-7B-GGUF

 5.查看本机Ollama目前有哪些模组
 $ollama

 6.(非必须)如果你需要删除不要的模块,指令为:

$ollama rm deepseek-r1:7b

 7.将刚才下载的7b模块重新挂到Ollama中:

$ollama create deepseek-r1:7b -f ./Modelfile

 8.(非必须)试跑看看7b模块有没有被创建成功:

$ollama运行 deepseek-r1:7b

       如果看到 本地DeepSeek-r1在CMD中开始运作,代表你可以在POT翻译软件中执行本插件运行本地DeepSeek-r1翻译服务。

二、安装自定义义插件

1. 下载并安装自定义插件.potext文件后,选取相应大小的模型(见下图),即可食用🥰。
 2.电脑为8GB RAM用户建议使用7b模型。

自定义义插件的文件名是.potext文件,它原本是.zip文件改名而来。 若将该文件解压缩会看到里面有3个档案,分别为:deepseek.png、info.json(用于显示在POT软件自定义软件包

使用结果预览图

補充

除了前一位作者 Strivy-ZSY之程序,保有不显示思考过程的功能(见下图)之外,

这一版在经过笔者安装DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf模型后,实测调校出底下设定值:

{ “model”: “deepseek-r1:7b”, messages: [ { “role”: “user”, “content”: 請用${to}翻譯以下詞句: \ ${text}'' } ], 温度: 0.0, top_p: 0.1, top_k: 1, frequency_penalty: 0, presence_penalty: 0, max_tokens: 250 }

说明:原先role:“system”被官方列为不建议使用,故删除。

 参数说明

三、软件下载

夸克网盘分享

本文信息来源于GitHub作者地址:https://github.com/Strivy-ZSY/pot-app-translate-plugin-localdeepseek-r1

当你在尝试使用`npm install`命令安装Vue项目时遇到`npm ERR! Cannot read properties of null (reading 'matches')`错误,这通常是因为npm在处理依赖关系或包信息时遇到了无效的数据。这个错误可能由以下几个原因导致: 1. 包版本兼容:某个包的版本号可能已被删除或其文件结构发生了变化,导致npm无法解析。 2. 网络问题:如果网络连接稳定,下载过程中可能出现中断,导致数据损坏。 3. 错误的依赖路径:如果你的项目配置文件(如package.json)中引用了存在的模块,npm也会抛出这个错误。 4. npm缓存问题:有时候清理一下npm的缓存(运行`npm cache clean --force`)可能会解决问题。 5. npm全局权限问题:确保你有足够的权限去安装全局模块。 要解决这个问题,你可以按照以下步骤操作: 1. **检查网络**:确保你的网络连接稳定,尝试重启路由器或等待一段时间再试。 2. **清除缓存**:执行`npm cache clean --force`,然后重新运行`npm install`。 3. **更新依赖**:确认项目的package.json是否有过期或兼容的依赖,如果有,更新到最新版或指定正确的版本。 4. **检查路径**:确认所有的模块路径都是有效的,没有拼写错误或遗漏。 5. **权限验证**:如果是全局安装,确保你有管理员权限。 6. **重置npm**:如果上述方法都奏效,考虑卸载并重新安装Node.js和npm。 如果问题仍然存在,请提供详细的错误日志,以便更好地诊断问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值