低配云服务器Windows2016搭建DeepSeek本地AI模型

已于 2025-02-03 02:45:57 修改
阅读量970 收藏 13
点赞数 6
分类专栏： 运维 图形识别 文章标签： 服务器 运维 机器学习
于 2025-02-03 02:38:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40220242/article/details/145425081
版权

低配云服务器Windows2016搭建DeepSeek本地AI模型

前言：以最低的成本搭建一个属于自己的AI测试模型，不需要用到独立显卡，机器只需要2核心4G内存80G硬盘空间即可。因为DeepSeek拥堵注册不了API-key，所以用Ollama的deepseek-r1:1.5b。Anythingllm操作环境。

1. 环境准备

云服务器：确保已购买并配置好Windows Server 2016。
Python：安装 Python 3.8+。
远程连接工具：如RDP或SSH。
模型文件：下载所需的模型文件。
https://anythingllm.com/
https://ollama.com/
https://www.deepseek.com/
在这里插入图片描述

2.下载安装AnythingLLM

https://anythingllm.com/
安装后，首次访问时，系统会提示你进行初始化设置。
按照提示设置管理员账号和密码即可，其它默认就行，后面再具体设置。
在这里插入图片描述

3. 下载安装Ollama

https://ollama.com/
解压并安装。

最低0.47元/天 解锁文章
DeepSeek本地部署教程
qq_54844497的博客
02-22 920
deepseek部署
搭建自有满血免费云DeepSeek-R1
lei937689067的博客
02-10 847
搭建自有满血免费云DeepSeek-R1
Deepseek官网太卡，教你5分钟在云服务器上部署Deepseek
Y525698136的博客
02-07 3410
Deepseek官网太卡，教你5分钟在云服务器上部署Deepseek
零基础喂饭教程：本地低配置电脑部署deepseek-r1大模型，甚至可以部署最高的671b大模型，只需要做到这一点...
02-03 6684
我们今天在低配置甚至无显卡的电脑里，部署国产之光：deepseek-r1大模型，可以根据自己的需求选各个参数的模型，甚至是671b（6710亿参数模型）。安装完成以后，安装程序会自己关闭，如果想判断是否安装成功，就打开命令行。等到出现 Send a message时，就可以输入文字进行沟通使用了。如果能显示出ollama版本，则安装成功。先下载安装OllamaSetup.exe。怎样判断自己可以安装哪个大模型。输入命令：ollama -v。直接点Install安装。只需要按需下载就可以了。
在 Windows Server 2016 上部署 Ollama 和 DeepSeek-r1模型及使用 Chrome 插件 Page Assist 实现 Web UI 对话
pursue.dreams的博客
03-14 1527
随着人工智能技术的飞速发展，越来越多的企业和开发者开始探索如何将 AI 模型部署到生产环境中。Ollama 作为一个轻量级的 AI 模型管理工具，为开发者提供了一个简单而强大的解决方案。本文将详细介绍如何在 Windows Server 2016 上部署 Ollama，并运行 DeepSeek R1模型。此外，我们还将介绍如何使用 Chrome 插件 Page Assist 通过 Web UI 与模型进行对话。
DeepSeek 云端部署，释放无限 AI 潜力！
因果律的博客
01-30 9421
在人工智能领域，云服务虽凭借便捷性和强大计算能力在 AI 领域迅速普及，但安全隐患与成本问题促使企业和开发者关注本地运行大语言模型（LLM）。DeepSeek、Llama 等优秀开源模型的出现，为本地 LLM 发展助力，其开源特性便于开发者定制开发，拓展应用场景。同时，本地 LLM 环境构建难度降低。展望未来，随着技术进步与开源社区发展，本地 LLM 凭借安全、成本及定制优势，有望在人工智能领域获得更广泛应用，成为重要组成部分。
deepseek云部署极简指南
404 Not Found
02-12 1867
前面几期，针对的是deepseek本地部署相关的内容，这期我们来介绍以下云部署，本期分为两部分，1.为体验向，用于让用户在10分钟内拥有一个自己的可以通过互联网访问的deepseek网页版！；2.通用的云部署方案。
服务器搭建deepseek存在问题
02-21
根据描述得知，低配云服务器上运行Windows Server 2016操作系统能够顺利完成DeepSeek-R1模型的一键式快速部署过程[^3]。具体步骤如下所示： 1. 下载并解压缩预编译好的可执行包至指定目录； 2. 使用管理员权限打开...
如何在离线的电脑上部署一个本地Deepseek（使用ollama）
qq_41854911的博客
02-08 1万+
例如，如果您的显卡显存为 16GB，官方推荐使用 32b 大小的 DeepSeek 模型。请根据您的硬件配置选择适合的模型版本，以获得最佳性能。首先我们需要将ollama和chatbox的安装包，Deepseek模型文件通过U盘或者光盘的形式导入到这台不能联网的电脑上。按照时间排序，找到最大的那个文件，就是gguf格式的模型，复制出来，改名为qwen2.5-coder0.5b.gguf。：基于开源模型（如 QWEN 和 LLAMA）微调，参数量从 1.5B 到 70B 不等，适合本地硬件部署。
如何在windows搭建一套 deepseek
慧香一格的专栏
02-05 615
请注意，以上步骤可能因DeepSeek和Ollama的更新而有所变化，建议在实际操作时参考最新的官方文档或教程。如果遇到任何问题，可以查阅相关社区或论坛寻求帮助。
Ollama 可以在 Windows 上运行了
engchina的专栏
02-16 2万+
Ollama 可以在 Windows 上运行了
DeepSeek 在 Windows Server 2019 上的详细部署步骤
weixin_37765605的博客
02-11 2008
DeepSeek 在 Windows Server 2019 上的详细部署步骤
DeepSeek本地化部署（windows）
歪桃的博客
02-13 2366
通过在windows环境下本地化部署DeepSeek
Windows下载安装Ollama本地运行大模型，新手详细
热门推荐
changyana的博客
11-07 2万+
下载安装Ollama并运行大模型教程，进行系统环境变量配置，新手详细。
Windows本地部署（DeepSeek-R1-Distill-Qwen-1.5B）模型
qq1164014750
01-26 1万+
登录 WSL 后，根据 NVIDIA 下载页面的说明安装 CUDA 11.8，依次执行以下命令：也可以参考官方说明：https://developer.nvidia.com/cuda-downloads?https://modelscope.cn/models/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B 国内 modelscope。
linux服务器上部署DeepSeek指南
jiang0615csdn的博客
02-11 3113
linux服务器上部署DeepSeek指南
windows本地部署deepseek（小白详细教程版）
weixin_43837880的博客
02-16 1636
Ollama 是一个开源项目，专注于在本地运行大型语言模型（LLMs），尤其是 Meta 的 LLaMA 系列模型。它允许用户在个人计算机上部署和运行这些模型，无需依赖云端服务。本地运行：支持在本地设备上运行大型语言模型，保护隐私。开源：代码公开，用户可自由查看、修改和分发。多平台支持：兼容 macOS、Linux 和 Windows。模型支持：主要支持 Meta 的 LLaMA 模型，未来可能扩展至其他模型。易用性：提供简单接口，便于用户快速上手。隐私保护：适合处理敏感数据，避免上传至云端。
Win10+Ollama+AnythingLLM+DeepSeek构建本地多人访问知识库
zouxin_88的专栏
02-07 5743
1.我的Win10版本号为19041（打开控制面板，切换到小图标模式，点击管理工具，再点击系统信息，即可看到版本号），安装最新版本会报如下错误。7.针对文件进行提问，文件没上传前，系统是无法正确回答的。文件上传后，系统可以正确回答了。运行结束，切换到docker，可以在Containers列表中看到anythingllm。运行结束，切换到docker，可以在Images列表中看到anythingllm。，打开Windows命令行cmd，复制并运行如下命令。点击3001:3001，即可打开网页进行会话。
如何本地本地搭建DeepSeek-R1 ai 模型
最新发布
04-03
### DeepSeek-R1 的本地部署教程 要在本地环境中成功搭建并运行 DeepSeek-R1 AI 模型，需遵循以下方法和注意事项： #### 1. 准备工作 在开始之前，需要确认具备必要的软硬件条件以及相关工具链的支持。以下是具体准备事项： - **硬件需求**: 部署 DeepSeek-R1 要求较高的计算能力，尤其是对于完整的 671B 参数版本。推荐至少配备 NVIDIA RTX 3090 或更高性能显卡[^3]。 - **软件依赖**: 安装 Python (建议版本 >= 3.8)，同时确保已安装 PyTorch 和 Transformers 库。可以通过 pip 进行安装： ```bash pip install torch transformers ``` #### 2. 获取模型文件 DeepSeek 提供了多种参数规模的模型变体，包括但不限于原始的大规模版本及其蒸馏后的轻量化版本。用户可以根据实际需求选择适合自己的模型。 - 对于完整版模型，访问官方仓库获取最新发布的信息，并按照指引完成下载操作[^1]。 - 如果倾向于更高效的解决方案，则可以考虑采用经过优化处理过的较小尺寸版本，例如 `DeepSeek-R1-Distill-Qwen-7B`[^4]。该版本不仅保留了一定程度上的表现力，还显著降低了存储空间占用率与运算复杂度。 #### 3. 使用 Ollama 工具简化流程 为了进一步降低技术门槛，许多开发者推荐利用开源项目 Ollama 来管理整个过程中的各个环节。通过它能够轻松实现从网络上拉取目标镜像直至最终启动服务端口监听等一系列动作[^5]。 - 安装 Ollama 并验证其正常运作状态； - 执行命令以加载指定名称下的预构建包（如 deepseek-r1）至本地缓存目录下等待后续调用； ```bash ollama pull deepseek/r1 ``` #### 4. 测试功能是否完好无损 最后一步便是检验当前设置能否满足预期用途场景的要求。打开浏览器输入相应 URL 地址即可进入交互界面尝试提问解答等功能测试环节[^2]。 --- 以上即为关于如何在个人电脑或者其他私有服务器上面独立完成 DeepSeek-R1 的全部步骤说明文档内容摘要整理而成的结果展示形式之一而已；当然还有更多高级定制选项可供探索实践学习过程中不断积累经验成长进步！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值