DeepSeek-R1本地部署笔记


效果

我的配置如下

E5 2666 V3 + AMD 590Gme

可以说是慢的一批了,内存和显卡都太垃圾了,回去用我的新设备再试试

在这里插入图片描述


概要

  • 安装 ollama
  • 终端下载模型
  • 【可选】下载UI

下载 ollama

打开 https://ollama.com ,选择对应的操作系统

在这里插入图片描述


终端下载模型

根据显卡的显存去选择多大的模型 https://ollama.com/library/deepseek-r1

在这里插入图片描述

安装好之后,在终端里就可以输入问题了,如果新开一个终端窗口的话,可以输入如下命令去召唤

ollama run deepseek-r1

在这里插入图片描述

【可选】浏览器插件 UI

插件市场有个这个插件 https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo?pli=1
在这里插入图片描述
下载完之后可以点击浏览器上面的插件按钮,跳转到如下页面

在这里插入图片描述

选择下载的模型
在这里插入图片描述

然后再 RAG 设置中选择文本嵌入模型

在这里插入图片描述

Q: 内存占用高,显存占用不高,正常吗

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值