Deepseek本地化部署教程及嵌入Excel中

本地化部署消除了数据在本地设备与云端服务器之间传输的时间开销,大大降低了响应延迟。在一些网络条件不稳定或无法接入网络的环境中,本地化部署的 DeepSeek 模型仍然可以正常运行。最重要的是对于一些涉及敏感信息(如医疗数据、金融交易记录、企业机密等)的应用场景,本地化部署可以确保数据不出本地环境,避免数据在传输和存储过程中被泄露的风险。可以完全掌控数据的访问和使用权限,满足严格的合规性要求。

先下载ollama,可通过官网自行下载,也可以通过下面的链接

ollama Windows版 最新下载地址https://github.com/ollama/ollama/releases/latest/download/OllamaSetup.exe

把这个地址用迅雷直接下载就好(千万不要直接下载,不然你会怀疑人生)实在不行可以联系作者获取最新安装包。

运行安装包下载中

模型参数

ollama 运行 DeepSeek 模型的命令
配置要求
1.5b
ollama run deepseek-r1:1.5b
GPU 1060 以上大部分个人电脑可使用
7b
ollama run deepseek-r1



请专业人士自行研究


8b
ollama run deepseek-r1:8b
14b
ollama run deepseek-r1:14b
32b
ollama run deepseek-r1:32b
70b
ollama run deepseek-r1:70b
671b
ollama run deepseek-r1:671b

打开命令行界面(Command - Line Interface,CLI

输入deepseek模型命令,这里用1.5b的来测试。

输入ollama run deepseek-r1:1.5b

等待下载完成

安装完成,来进行测试下

输入问题你是什么模型?

已经安装成功了,是不是很简单就部署好了,到这里只能通过命令窗口进行交互还是不太方便,继续下载一个Chatbox AI下载地址:https://chatboxai.app/zh/install?download=win64,依然放入到迅雷中下载。

安装好之后打开软件

在设置中选选择ollama API

选择刚刚下载的模型,点击保存就完成了。如果要提供远程服务请点击查看此教程。

本地化部署的deepseek模型就此设置好了,你拥有了自己的专属AI模型。

使用本地模型有许多优势:

  • 完全离线运行,保护隐私数据安全

  • 无需支付在线 API 费用

  • 完全离线,服务稳定,无网络延迟

  • 可以自由调整和定制模型参数

Chatbox 可以很好地连接到 Ollama 服务,让你在使用本地模型时可以获取 Chatbox 提供的更多强大功能,比如 Artifact Preview、文件解析、会话话题管理、Prompt 管理等。

(注意:运行本地模型对你的电脑配置有一定要求,包括内存、GPU 等。如果出现卡顿,请尝试降低模型参数。)

这段是摘自Chatbox AI文档。

对于个人而言,1.5b版本性能较弱,如果对数据安全没有要求,还是使用官网API会更加方便一些。下面简单介绍下如何把deepseek嵌入到Excel中。

这里先把deepseek简单的嵌入到功能区,通过在B1单元格输入问题后点击上面运行DS按钮即可生成B2功能的答案。

最后附上实现代码

' 定义 API 相关的公共常量``' AI 接口的请求地址``Public Const AI_URL = "https://api.deepseek.com/v1/chat/completions"``' AI 接口的访问密钥``Public Const AI_KEY = "换成你自己申请的API"``' 使用的 AI 模型名称``Public Const AI_MODEL = "deepseek-chat"``' 定义一个函数,用于向 AI 接口发送请求并获取响应``Function GAR(p As String) As String`    `Dim x As Object`    `Dim rb As String`    `Dim s As Double`    `Dim ar As String``   `    `' 创建一个 XMLHTTP 对象,用于发送 HTTP 请求`    `Set x = CreateObject("MSXML2.ServerXMLHTTP.6.0")`    `x.setTimeouts 5000, 8000, 20000, 60000`    `x.Open "POST", AI_URL, False`    `x.setRequestHeader "Content-Type", "application/json;"`    `x.setRequestHeader "Authorization", "Bearer " & AI_KEY`    `x.setRequestHeader "Accept", "*/*"`    `rb = "{""model"":""" & AI_MODEL & """," & _`         `"""messages"":[{""role"":""user"",""content"":""" & JE(p) & """}]," & _`         `"""temperature"":0.7,""max_tokens"":512}"`    `s = Timer`    `x.send rb`    `Do While x.readyState <> 4`        `If Timer - s > 60 Then`            `If MsgBox("请求超时,重试?", vbRetryCancel) = vbRetry Then`                `x.abort`                `s = Timer`                `x.send rb`            `Else`                `Exit Function`            `End If`        `End If`        `DoEvents`    `Loop``   `    `If x.Status = 200 Then`        `ar = x.responseText`        `GAR = EJC(ar)`    `Else`        `GAR = "API 错误:" & x.Status & " - " & x.statusText`    `End If`    `Set x = Nothing``End Function``   ``' 定义一个函数,用于对字符串进行 JSON 转义处理``Function JE(s As String) As String`    `JE = Replace(Replace(Replace(s, "\", "\\"), """", "\"""), vbCrLf, "\n")``End Function``   ``' 定义一个函数,用于从 JSON 响应文本中提取所需内容``Function EJC(R As String) As String`    `Dim cs As Long`    `Dim ce As Long`    `cs = InStr(R, """content"":""") + 11`    `ce = InStr(cs, R, """")`    `EJC = Replace(Mid(R, cs, ce - cs), "\n", vbCrLf)``End Function``   ``' 定义一个子程序,作为与 AI 交互的主任务``Sub AI()`    `Dim p As String`    `Dim ar As String`        `ActiveSheet.Range("B2").ClearContents`    `p = ActiveSheet.Range("B1").Value`    `ar = GAR(p)`    `ActiveSheet.Range("B2").Value = ar``End Sub``   

这个代码需要通过宏执行AI子程序来实现,嵌入功能区是通过其他代码来实现的。期待与您一起研究如何更好嵌入到Excel中辅助完成日常工作实现自动化办公。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值