FastGPT 一招帮你解决 DeepSeek R1 的卡顿问题

DeepSeek 千般好,万般好,奈何最近总是崩溃。

6834d4e67ad31e982a5a3bc7c04dbe30.png

还不是因为米国科技公司坐不住了,打不过就暗地里搞各种 DDOS 攻击,把 DeepSeek 服务器多次搞崩溃。

好在国内所有的云平台目前都接入了 DeepSeek,包括腾讯云、阿里云、华为云等等,就在昨天下午,火山云也宣布正式接入 DeepSeek。

Sealos 云平台目前也接入了 DeepSeek R1

deb54248be5a0ca50cb9e02a7f03ab52.png

FastGPT 作为一个开源的 AI 知识库构建平台,必须接入 DeepSeek R1 来补齐最后一块拼图。

今天,FastGPT 正式接入了 DeepSeek-R1 满血版。

这意味着从现在起,R1 的推理能力已经可以结合 FastGPT 的知识库一起使用了。

9d0c8238d8d9cee83cea447b2f0a1c2f.png

如此一来,就实现了【国产最强推理+国产最强 AI 知识库】的完美结合,可以构建更加精准高效的行业专属智能客服。

6fd285abb77648ce08fb8217f77fb8d1.gif

以 FastGPT 官方 AI 助手为例,我们来测试一下效果。

Tip

FastGPT 官方地址:https://fastgpt.cn

完整的工作流如下:

d97987acfa1010bc27f99770d6c0abd7.png

首先会使用一个【问题优化】节点来优化问题,提高知识库连续对话时搜索的精度。

a86f9557f09dd9bb6e481d94e268ff87.png

后面的思路就很简单,先去手动标注的知识库中检索:

  • 如果检索到了,就根据检索到的内容回答问题;

  • 如果检索不到,就再到另一个知识库中去检索(这个知识库实时同步了 FastGPT 官方文档),最后再根据检索内容回答问题。

8de2f5e237a38891212ccc31f8aafe22.png

最终根据检索内容回答问题时,选择使用 Deepseek-reasoner 模型(也就是 DeepSeek R1),并打开【输出思考】选项,这样就可以看到思考过程了。

09e8547c928224ac6ee8378da9239d6f.png

提示词可以这么设置:

  • 1

  • 2

  • 3

  • 4

  • 5

  • 6

  • 7

  • 8

  • 9

  • 10

  • 11

  • 12

  • 13

  • 14

  • 15

  • 16

  • 17

  • 18

  • 19

  • 20

  • 21

  • 22

  • 23

  • 24

  • 25

  • 26

  • 27

## 身份

你是 FastGPT 的产品客服,你的任务是按顺序去搜索 FastGPT 的资料,并将它门作为参考,回答用户关于 FastGPT 的问题。

## 回答要求

1. 务必查找资料进行参考,不允许直接回答问题。
2. 请严格按照知识库中的内容进行回答,不要发散和过分解读。
3. 如果问题和知识库内容匹配度高,尽可能的返回知识库原文内容。
4. 使用与问题相同的语言进行回答。
5.  禁止使用说教式或模棱两可的语言,尤其要避免:
   - "重要的是..."
   - "不恰当的是..."
   - "这取决于主观看法..."
6. 如资料里有图片,请以 markdown 格式返回图片。

## 特殊回复示例

### 未找到合适参考内容

抱歉,我没有找到相关内容。

### 用户和你打招呼,问候等

你好,我是 FastGPT 产品客服,我学习了 FastGPT 的官方文档,有什么可以帮助你么?

记住:你的回复语言要和用户的提问语言相同。例如:如果用户使用英文提问,你就用英文回复;如果用户使用中文提问,你就用中文回复。

来看看效果:

4d9e56b26dff8d608ce936c4129f9fea.png

完美!

顺便再说句题外话,FastGPT 最新版(包括开源版)已经支持在 Web 界面配置模型参数了,预设超过 100 个模型配置。同时支持所有类型模型的一键测试。(预计下个版本会完全支持在页面上配置渠道)。

2637e693ff27eb6d58999d713509fca1.png

Note

详细发版日志参考:https://github.com/labring/FastGPT/releases/tag/v4.8.20

e9314008d6ab3a3301d3ab7192dbb7a0.png

加入 FastGPT 开源社区

让 AI 更懂你的知识

🏠官网链接

https://fastgpt.cn

🐙GitHub 地址

https://github.com/labring/FastGPT

📑访问 FastGPT 文档

https://doc.fastgpt.cn/

🏘️逛逛论坛

https://forum.laf.run/

往期推荐

70 个群都来问我的 AI 日报,是这么做的。

2024-11-14

356c415f0a5ef2ef33ffe4da971dbbce.jpeg

扔掉 Google 翻译!这个超强 AI 翻译工作流才是你的最佳选择

2024-10-30

db26b42bbc3cd29842a17468fd687d94.jpeg

AI 居然说我是牛马,还画出了我牛马的一生,我绷不住了...

2024-10-25

c2128a57fa07f7ab4dadb52ca665b9bc.jpeg

别再手动处理数据了!FastGPT 这个新功能让你提前下班

2024-11-05

605400a931bfd55f2c7634c5fe68b4d8.jpeg

不用写一行代码,使用 FastGPT 搭建 GitHub Issues 自动总结机器人

2024-10-21

2266e9d0384580379b7550a2a5e5a6ff.jpeg

关于 FastGPT

FastGPT 是一款基于 LLM 大模型的开源 AI 知识库构建平台。提供了开箱即用的数据处理、模型调用、RAG 检索、可视化 AI 工作流编排等能力,帮助您轻松构建复杂的 AI 应用。

308433ede8a82c341f1285aad53c9926.png

### 关于 DeepSeek R1 设备或软件卡顿问题解决方案 当遇到 DeepSeek R1 出现卡顿的情况时,可以采取一系列措施来优化性能并解决问题。 #### 一、硬件资源检查 确保运行 DeepSeek R1 的设备有足够的硬件资源支持其正常运作。这包括但不限于足够的内存、CPU 资源以及存储空间。如果硬件配置较低,则可能无法满足 DeepSeek R1 对计算能力的需求,从而导致卡顿现象发生[^1]。 #### 二、环境变量调整 对于基于 Linux 系统部署的应用程序来说,适当调整一些系统级别的参数可以助提高应用程序的表现。例如通过修改 `/etc/sysctl.conf` 文件中的内核参数,或者设置 JVM 启动选项等方法都可以有效改善应用响应速度慢的问题[^2]。 #### 三、清理缓存数据 定期清除不必要的临时文件和日志记录有助于释放磁盘 I/O 压力,并减少因读写频繁造成的延迟。特别是针对那些长时间未被访问过的旧版本索引库或其他大型对象进行删除操作是非常必要的。 #### 四、更新至最新版本 保持所使用的软件处于最新的稳定状态非常重要。开发者通常会在新发布的迭代中修复已知漏洞并引入性能改进特性。因此建议及时查看官方文档获取升级指南,并按照指示完成相应步骤以获得更好的用户体验。 ```bash # 更新命令示例(具体取决于实际安装方式) pip install --upgrade deepseek-r1 ``` #### 五、网络连接稳定性确认 考虑到部分功能依赖外部 API 或者云端服务,在测试期间应保证良好的互联网接入质量。可以通过 ping 测试目标服务器地址的方式初步判断是否存在丢包率过高或是延时过大的情况;另外也可以考虑切换到更稳定的 Wi-Fi 频道甚至是有线连接模式下再次观察表现差异。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值