一、引言
DeepSeek 是一款先进的智能搜索平台,专注于为企业提供高效、精准的搜索解决方案。它通过自然语言处理(NLP)和机器学习技术,能够理解用户的查询意图,并从大量文本数据中快速检索出最相关的信息。
二、为什么 DeepSeek 要部署在本地电脑上?
1、数据隐私与安全
本地部署确保所有数据处理都在你的设备上进行,避免敏感数据上传到云端,降低数据泄露风险,特别适合企业、科研或涉及隐私的场景。
2、离线可用性
不依赖网络连接,即使在没有互联网的环境(如内网、保密机构或偏远地区)也能使用,适合对网络稳定性要求高的用户。
3.、定制化与优化
本地部署允许针对特定硬件(如GPU加速)或业务需求进行优化,提升性能。企业也可以微调模型,适配专有术语或工作流程。
4、 模型专属化
可结合本地知识库或私有数据训练专属模型,避免通用模型的局限性,提升垂直领域的准确性。
三、本地部署DeepSeek
(1)安装Ollama
-
访问官网
打开浏览器,进入 Ollama 官网下载页面:https://ollama.com/download -
选择系统版本
根据你的电脑操作系统(Windows/macOS/Linux),点击对应的下载按钮:-
Windows:下载
.exe
安装程序。 -
macOS:选择 Intel Chip 或 Apple Silicon版本。
-
Linux:复制命令行安装脚本,或下载预编译包。
-
-
安装与验证
下载完成后,运行安装程序,按照提示完成安装。
打开终端(或命令提示符),输入以下命令验证是否成功:ollama --version 如果显示版本号,说明安装成功。或者在浏览器中输入localhost:11434,出现ollama is running
可以在开始菜单或图标当中直接找到它
(2)选择deepseek-r1模型
在ollama官网搜索deepseek-r1模型
会给出不同大小的模型1.5b、7b等,根据服务器或电脑内存显示选择模型大小
适配电脑模型:
比如选择1.5b模型,那么点击右侧中复制按钮,复制命令参数:ollama run deepseek-r1:7b
将其命令复制在终端等待模型安装完成
安装成功之后,会出现【>> send a message for help】的文字,这时候就可以与AI进行对话了
(3)可视化
打开浏览器中的 扩展 --->搜索Page Assist插件
下载完成之后打开其扩展就可以看到本地大模块的Web UI界面,并且选择刚刚下载好的大模型版本
如果ollama被退出,需要再次启动,那么需要在cmd当中输入启动命令:
ollama run <模型名称>或者ollama start
才能再次运行本地deepseek,进行对话