【AI】DeepSeek本地部署，Ollama + vscode + Continue，实现本地运行LLM大模型，以及代码自动补全

最新推荐文章于 2025-03-31 23:25:47 发布
最新推荐文章于 2025-03-31 23:25:47 发布
阅读量2.7k 收藏 17
点赞数 9
分类专栏： Python 文章标签： 深度学习 人工智能 vscode 学习 编辑器
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46318413/article/details/145471482
版权

文章目录

相关链接

Ollama
Ollama Models
Ollama相关api
VsCode下载

Ollama

安装ollama

Ollama 是一个开源的本地大语言模型运行框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。
Ollama 支持多种操作系统，包括 macOS、Windows、Linux 以及通过 Docker 容器运行。
Ollama 提供对模型量化的支持，可以显著降低显存要求，使得在普通家用计算机上运行大型模型成为可能。

在这里插入图片描述

配置ollama models下载地址

默认会下载到系统盘
在这里插入图片描述

下载Model

ollama官网的models中搜索，只要在上面能搜到的Model都能通过命令下载到本地

# 下载命令和运行命令一样
ollama run xxx

在这里插入图片描述
在这里插入图片描述
Success! 默认端口号为11434
http://localhost:11434
如果要更改端口号，到环境变量中添加或更改OLLAMA_HOST
也可以通过接口访调用，以下为相关api👇
https://ollama.cadn.net.cn/api.html

Continue接入VsCode

安装continue插件

在这里插入图片描述

添加模型

在这里插入图片描述

打开配置文件

在这里插入图片描述
或者直接在设置中配置
在这里插入图片描述

配置项

配置models，如果有代码补全需求，添加tabAutocompleteModel配置
在这里插入图片描述

预告：RAG，知识库

在这里插入图片描述
在这里插入图片描述

print("有一种英雄主义就是当我们看清社会的真相以后，依然选择要热爱生活，珍惜生命。")
print("不让别人烦恼是慈悲，不让自己烦恼是智慧")
使用Ollama和Continue打造开源AI代码助手
步子哥的博客
07-11 4603
Ollama是一个强大的工具,允许用户在本地设备上运行各种大型语言模型(LLMs)。它支持多种模型,包括Llama、GPT-J等,使得在个人电脑上使用先进的AI模型成为可能。通过结合Ollama和Continue,我们可以在自己的编辑器中构建一个强大、灵活且完全开源的AI代码助手。从代码补全到智能对话,从本地运行到自定义微调,这个方案为开发者提供了前所未有的AI辅助编程体验。随着开源AI技术的不断进步,我们相信这样的本地AI代码助手将成为每个开发者工具箱中不可或缺的一部分。
【DeepSeek应用】本地部署deepseek模型后，如何在vscode中调用该模型进行代码撰写，检视和优化？
agito_cheung的博客
03-16 640
通过以上步骤，可实现与本地 DeepSeek 模型的无缝集成，同时完全掌控数据隐私和模型行为。若已成功在本地部署了 DeepSeek 模型（例如通过。
ollama + qwen2.5-coder + VS Code + Continue 自动写代码
码农的专栏
12-02 2467
ollama + qwen2.5-coder + VS Code + Continue 自动写代码
Ollama+deepseek+Continue内网AI编程方案
cuijiying的博客
03-06 1350
Ollama: 一个轻量级开源工具，用于在本地运行和管理大型语言模型（如DeepSeek）。它提供简单易用的命令行界面和API，适配多种模型。DeepSeek: 一款由中国公司深度求索开发的开源大语言模型，尤其在代码生成、数学推理和自然语言处理方面表现优异。推荐使用其编程能力强的版本，如或。Continue: 一个开源的AI编程助手，支持与VS Code和JetBrains等IDE集成。它可以连接本地或远程的语言模型，提供代码补全、调试建议和对话式问答功能。完全本地化。
Ollama+Deepseek-R1+Continue本地集成VScode
tersky的专栏
03-05 1223
成功把 Ollama、Deepseek - R1 和 Continue 集成到 VScode 之后，确实避免了很多问题！先说说数据安全，以前总在网络搜索，心里总有点不踏实，现在都在本地搞定，再也不用担心信息泄露了，做涉及敏感信息的项目，安全感满满，对咱开发者来说，这可太香了。不过，这集成也不是十全十美的。对电脑硬件要求有点高，如果电脑配置不太给力，模型响应速度就会变慢，有时候等得还挺着急，多少还是会影响点效率。但总体来说，这次集成真的让我学到了不少，绝对是一次超值得尝试的技术实践！强烈推荐大家也试试！
Visual Stdio 2022 C#调用DeepSeek API
ZLOJ
03-02 1177
如果已有API key且已经复制了值的可忽略第一步。1、点击链接 DeepSeek 打开DeepSeek官网。2、点击网页右上角【AP开放平台】链接，效果如下图。3、有DeepSeek帐号的直接登录，没有帐号的注册然后登录。4、选择上图中的【API keys】页，创建一个新的【API key】，在此过程中，。如果已有API key且已经复制了的可忽略第一大步。
Visual Stdio 2022 C#调用DeepSeek API完整程序包
02-28
Visual Stdio 2022 C#调用DeepSeek API(https://mp.csdn.net/mp_blog/creation/editor/145919980)完整程序包
Vscode配置continue运行ollama部署的Qwen2.5模型
Passbyer
01-22 3065
点击continue图标会出CONTINUE窗口，鼠标选中CONTINUE（长按）可将窗口拖至右边。离线安装continue访问下面网址下载插件。2. 配置continue。
如何在VSCode中免费使用DeepSeek R1：本地大模型编程助手全攻略
wumingkun319的博客
02-12 3843
如果您想在Visual Studio Code中直接运行DeepSeek作为类似于 GitHub Copilot 的代码代理，而无需花一分钱，请跟着我向您展示如何使用LM Studio、Ollama和Jan等工具来执行此操作。
vscode 都有哪些大模型编程插件
kcarly的专栏
03-04 1908
CodeShell Extension 是基于 CodeShell 大模型开发的插件，支持多种编程语言（如 Python、Java、C++ 等），提供代码补全、优化、解释、注释生成以及对话问答等功能。这些插件通过不同的方式将大模型技术融入 VSCode 开发环境，帮助开发者实现代码自动生成、优化、解释等功能，从而显著提升编程效率和质量。开发者可以根据自己的需求选择合适的插件进行安装和使用。VSCode 中有许多基于大模型的编程插件，这些插件通过集成人工智能技术，显著提升了开发者的编程效率和体验。
VSCode神器：通过Continue插件高效调用DeepSeekAPI的图文教程.pdf
02-20
在日常的工作和学习中，你是否常常为处理复杂的数据、生成高质量的文本或者进行精准的图像识别而烦恼？DeepSeek 或许就是你一直在寻找的解决方案！它以其高效、智能的特点，在各个行业都展现出了巨大的应用价值。然而，想要充分发挥 DeepSeek 的优势，掌握从入门到精通的知识和技能至关重要。本文将从实际应用的角度出发，为你详细介绍 DeepSeek 的基本原理、操作方法以及高级技巧。通过系统的学习，你将能够轻松地运用 DeepSeek 解决实际问题，提升工作效率和质量，让自己在职场和学术领域脱颖而出。该文档【VSCode神器：通过Continue插件高效调用DeepSeekAPI的图文教程】共计 15 页，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均显示正常，无任何异常情况，敬请您放心查阅与使用。
私有化系列-AI编程助手 continue
最新发布
workky的专栏
03-31 760
在@左侧下拉框点击一下，一般会插件自动检测加载Ollama,并展示已经安装的大模型，选择deepseek-coder-v2大模型（推荐，如果速度慢，可以选择deepseek-coder或者qwen2.5-coder），如果没有可以点击“+Add Chat Model”进行配置添加。引用指定的函数或类，有点像vscode的按文件名检索文件功能（Ctrl +P）里的追加@能够下钻检 索函数的功能，将搜索出来的函数代码块作为上下文。将IDE 终端中运行的最后一个命令及输出结果，作为上下文，便于debug信息。
如何在 VSCode 中实现 DeepSeek 模型的高效加载与初始化？内存优化策略如何平衡模型大小与推理速度？
百态老人的博客
03-11 302
模型剪枝剪枝通过移除神经网络中不重要的参数和连接来减少模型的大小和复杂度，从而提高推理速度。例如，剪枝后的ResNet-50模型在保持95%以上精度的同时，推理速度提升了约25%，内存占用减少了50%。剪枝方法包括结构化剪枝（如层剪枝、通道剪枝）和非结构化剪枝。结构化剪枝效果明显，但需要额外的计算平台支持。剪枝后的模型需要通过微调来恢复或提高性能，以确保在剪枝后仍能保持较高的准确率。模型量化。
【开源AI编程助手】VsCode插件--Continue
携梦问道的博客
09-10 6186
Continue 是一款 AI 编程助手。它基于对编程的深度理解，为开发者服务。能精准进行代码补全、构建框架，高效检测并修正代码错误。在算法设计、代码优化等方面，它可凭借智能分析提供参考，助开发者提高效率与代码质量。1.Continue 官网使用文档2.Ollama 官网3.Continue 官网使用文档。
Idea-continue插件配置硅基流动
没有伞的孩子必须努力奔跑！—小林
02-21 272
【代码】Idea-continue插件配置硅基流动。
轻松搭建代码大模型：Ollama本地部署一触即达
2401_84494441的博客
01-13 1393
CodeGeeX4-ALL-9B作为最新一代CodeGeeX4系列模型的开源版本发布后，很多用户对这次更新的CodeGeeX插件支持本地模式非常感兴趣，都希望能够在本地部署CodeGeeX4-ALL-9B，然后通过本地模式接入CodeGeeX插件中来使用代码补全和智能问答的功能。CodeGeeX4-ALL-9B这次也专门适配了GGUF，今天我们详细介绍只用简单的一招，不用考虑环境和依赖，通过Ollama跑起来本地的CodeGeeX代码大模型。
VSCode + Continue 实现AI编程助理
xiangzhihong8的专栏
02-10 571
由于我们Ollama是安装在局域网中另外一台主机上，所以这一步特别重要，需要修改apiBase的地址。最常用的就是Ctrl + L 和 Ctrl + I，直接选中一段代码，就可以让DeepSeek帮你改代码了。DeepSeek分析了一下，给出了修改方法，并直接修改了代码，你可以自己Review来选择是否接受它的修改。点击Accept all Changes后， 代码就自动全部修改了，非常快，非常方便。好了，配置完，就可以在VSCode里面使用DeepSeek R1的本地模型了。进行分析，非常方便。
Visual Studio Code应用本地部署的deepseek
极创it的博客
02-02 6425
参看上篇文章：deepseek本地部署-CSDN博客
DeepSeek本地部署Ollama+Chatwise
02-17
### 如何在本地环境中部署 DeepSeek-Ollama 和 ChatWise #### 准备工作 为了成功部署 DeepSeek-Ollama 和 ChatWise，需先确认环境配置满足最低需求。通常情况下，这包括安装 Python 解释器以及必要的依赖库。 #### 下载所需软件包 访问官方仓库获取最新版本的 DeepSeek-Ollama 和 ChatWise 安装文件。确保下载适用于当前操作系统的二进制文件或源码压缩包[^1]。 #### 配置开发环境 创建一个新的虚拟环境来隔离项目所需的Python包： ```bash python3 -m venv myenv source myenv/bin/activate # Linux/MacOS myenv\Scripts\activate # Windows ``` 接着安装依赖项： ```bash pip install -r requirements.txt ``` 此命令会读取 `requirements.txt` 文件中的列表并自动安装所有必需的第三方模块。 #### 启动服务端口 启动应用程序之前，可能需要编辑配置文件以适应个人网络设置或其他偏好选项。完成这些调整后，可以通过如下方式启动服务器： 对于 DeepSeek-Ollama: ```bash python app_ollama.py ``` 而对于 ChatWise，则执行： ```bash python chatwise_server.py ``` 一旦程序正常运行，终端应当显示出提示符 (`>>>`) 表明已准备好接收输入指令[^2]。 #### 测试连接 打开浏览器窗口，导航至 http://localhost:指定端口号 地址查看Web界面是否加载成功。如果一切顺利的话，现在就可以开始与模型互动交流了！ #### 数据安全性考量 值得注意的是，在使用此类开源模型的过程中，所有的交互记录都将保存于用户的本地机器上，从而保障了较高的隐私水平[^3]。 #### 可视化管理平台 除了基本的功能外，某些实现还提供了图形化的监控面板用于简化管理和调试过程。例如，ChatWise 支持多种流行的大规模预训练语言模型接口接入，使得开发者能够轻松切换不同类型的LLM实例进行实验测试[^4]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

@Dai

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值