DeepSeek本地部署

一、引言

DeepSeek 是一款先进的智能搜索平台,专注于为企业提供高效、精准的搜索解决方案。它通过自然语言处理(NLP)和机器学习技术,能够理解用户的查询意图,并从大量文本数据中快速检索出最相关的信息。

二、为什么 DeepSeek 要部署在本地电脑上?

1、数据隐私与安全

     本地部署确保所有数据处理都在你的设备上进行,避免敏感数据上传到云端,降低数据泄露风险,特别适合企业、科研或涉及隐私的场景。

2、离线可用性

     不依赖网络连接,即使在没有互联网的环境(如内网、保密机构或偏远地区)也能使用,适合对网络稳定性要求高的用户。

3.、定制化与优化

      本地部署允许针对特定硬件(如GPU加速)或业务需求进行优化,提升性能。企业也可以微调模型,适配专有术语或工作流程。

4、 模型专属化

  可结合本地知识库或私有数据训练专属模型,避免通用模型的局限性,提升垂直领域的准确性。

三、本地部署DeepSeek

(1)安装Ollama

  1. 访问官网
    打开浏览器,进入 Ollama 官网下载页面:https://ollama.com/download

  2. 选择系统版本
    根据你的电脑操作系统(Windows/macOS/Linux),点击对应的下载按钮:

    • Windows:下载 .exe 安装程序。

    • macOS:选择 Intel Chip 或 Apple Silicon版本。

    • Linux:复制命令行安装脚本,或下载预编译包。

  3. 安装与验证
    下载完成后,运行安装程序,按照提示完成安装。  

打开终端(或命令提示符),输入以下命令验证是否成功:ollama --version   如果显示版本号,说明安装成功。或者在浏览器中输入localhost:11434,出现ollama  is running

可以在开始菜单或图标当中直接找到它

(2)选择deepseek-r1模型

在ollama官网搜索deepseek-r1模型

会给出不同大小的模型1.5b、7b等,根据服务器或电脑内存显示选择模型大小

适配电脑模型:

比如选择1.5b模型,那么点击右侧中复制按钮,复制命令参数:ollama run deepseek-r1:7b

将其命令复制在终端等待模型安装完成

安装成功之后,会出现【>> send a message for help】的文字,这时候就可以与AI进行对话了

(3)可视化

打开浏览器中的 扩展 --->搜索Page Assist插件

下载完成之后打开其扩展就可以看到本地大模块的Web UI界面,并且选择刚刚下载好的大模型版本

如果ollama被退出,需要再次启动,那么需要在cmd当中输入启动命令:

ollama run <模型名称>或者ollama start

才能再次运行本地deepseek,进行对话

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值