如何使用Ollama在本地运行Qwen3并支持MCP和工具使用

最新推荐文章于 2025-05-06 10:14:05 发布
最新推荐文章于 2025-05-06 10:14:05 发布
阅读量112 收藏
点赞数
分类专栏： AI Agents实战 文章标签： 人工智能 AI AI编码 Ollama Qwen3 Qwen MCP
本文为博主（李孟）原创文章，未经博主允许不得转载。
本文链接：https://blog.csdn.net/qq_19968255/article/details/147674201
版权

在这里插入图片描述

Qwen3是阿里巴巴Qwen团队最新发布的开源大语言模型，提供具有竞争力的性能，高度模块化和工具使用能力。

在本指南中，我将向您展示如何通过Ollama在本地运行Qwen3，并启用MCP（模型上下文协议）工具功能，如代码解释器、网络获取和时间查询。

到最后，您可以构建由Qwen3驱动的智能助手，完全在您的机器上运行——无需云API密钥！

为什么选择Qwen3 + Ollama + MCP？

为了实现这些高级功能，阿里巴巴引入了模型上下文协议（MCP）。

MCP允许模型通过调度命令行服务与外部工具交互，使大语言模型能够以结构化和安全的方式访问时间、从网站获取数据或调用其他本地工具。

在Qwen-Agent生态系统中，像mcp-server-time和mcp-server-fetch这样的MCP工

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Qwen3开源发布：Think Deeper, Act Faster！推理、部署、微调、MCP调用实战教程
zhangjiaofa的专栏
04-29 187
今天，通义千问Qwen团队正式开源推出 Qwen3，这是 Qwen 系列大型语言模型的最新成员。最新的Qwen3系列模型具备双模推理能力（深入思考/快速响应）、支持119种语言及方言，并强化了Agent功能与代码执行能力，全面满足复杂问题处理与全球化应用需求。其中，旗舰模型 Qwen3-235B-A22B 在代码、数学、通用能力等基准测试中，与 DeepSeek-R1、o1、o3-mini、Grok-3 和 Gemini-2.5-Pro 等顶级模型相比，表现出极具竞争力的结果。
Chainlit集成LlamaIndex并使用ollama本地模型实现AI知识库检索网页对话应用
洛阳泰山的博客
11-24 1663
LlamaIndex是一个数据框架，它主要为基于大语言模型（LLM）的应用程序设计，允许这些应用程序摄取、结构化并访问私有或特定领域的数据。这种框架对于那些希望利用LLM的强大能力来处理自身专属数据集的组织来说尤其有用。由于大多数公开的大语言模型都是在大量的公共数据上训练的，它们缺乏对用户特定数据的理解，而这正是LlamaIndex发挥作用的地方。LlamaIndex支持Python和TypeScript，使得开发者可以通过使用这些编程语言来集成和操作数据。
Qwen-3深度解析：硬件配置、原生MCP功能及模型选择全面详解
2401_84494441的博客
04-29 1504
仅需1/3硬件成本，性能全面超越DeepSeek-R1模型！时隔半年，全新一代Qwen-3系列模型正式发布！在经历了Claude 3.7、Gemini 2.5和GPT-4.1模型发布后，Qwen-3模型再次扛起了全球开源大模型的大旗，性能一举追平全球最强Gemini 2.5 Pro模型，并且也是全球首款混合推理开源模型，同时还具备了极强的MCP能力！我们团队也是通宵进行了模型性能测试并制作了保姆级模型安装部署完整指南和代码⬇️进入社区即可领取～
如何在离线的Linux服务器上部署 Ollama，并使用 Ollama 管理运行 Qwen 大模型
pythonhy的博客
11-05 1927
如何在离线的Linux服务器上部署 Ollama，并使用 Ollama 管理运行 Qwen 大模型
使用Ollama简单部署本地Qwen2
一个今天胜过两个明天
06-11 3512
Ollama 是一个开源的、本地运行的 AI 聊天模型，允许在自己的设备上运行 LLM，无需依赖云服务。运行完成后就可以和大模型对话了，不过ollama 只有命令行模式运行，这里我下载了chatbox软件来运行，打开软件 模型设置选择ollama 以及 对应的ollama模型。windows下选择exe ，然后运行安装，安装完成后。1.5b就是对应安装Qwen2 1.5b大模型，如果使用7b 就是 ollama run qwen2:7b。首先安装ollama， 访问官网 下载 ollama 对应版本。
OLLAMA部署qwen:7b,与fastgpt集成
wengad的博客
04-18 4526
它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型，例如 Llama 2。这里使用的是4.6.8的版本，这里是从github上拉了分支，直接部署在操作系统上的，如果是docker安装，那么请修改对应映射出来的config.local.json,然后重启fastgpt容器即可。注：本文章默认之前fastgpt都已经配置好了，这次只是新增一个qwen:7b的模型对接。在渠道清单中，点击刚才创建的渠道条目的“测试”按钮，如果配置没问题，那么测试可以通过。
使用ollama本地部署qwen2并api调用
m0_62458145的博客
10-22 3926
Ollama 是一个开源的、本地运行的 AI 聊天模型，允许在自己的设备上运行 LLM，无需依赖云服务。目前Ollama library已经支持Qwen2，可以直接使用。windows下选择exe ，然后运行安装，安装完成后。首先安装ollama， 访问官网 下载 ollama 对应版本 Download Ollama on macOS。等待模型下载，下载的模型速度取决您的网络速度。模型启动完成，这样我们就可以实现模型推理了。查阅官方的api参考文档，得到使用说明。使用ollama 命令行窗口推理。
qwen3 MCP 本地
最新发布
05-10
引用[1]提到了如何使用Ollama在本地运行Qwen3并支持MCP和工具使用，里面有具体的代码示例，配置步骤，这可能对用户有帮助。引用[2]和[3]也提到了本地部署的方法，比如使用Ollama、vLLM等工具。所以应该结合这些信息...
Ollama-MCP-Bridge：将Claude级工具能力移植到本地模型，实现AI助手的全面本地化——通过MCP协议，让Ollama具备文件操作、网络搜索、代码交互等企业级功能
这里汇聚了前沿的技术分享与实用的开发技巧，带你探索从创意到企业的技术创业之路。
04-26 281
Ollama-MCP-Bridge通过MCP协议的标准化设计，让本地模型具备了与云服务匹敌的工具调用能力，同时保障数据主权与可控性。MCP（Messaging Control Protocol）是一种标准化的通信协议，定义了AI模型与外部工具（如文件系统、搜索引擎、代码库）之间的交互方式。，将Ollama本地模型的推理结果转化为MCP兼容的请求，并路由到对应的工具服务（如文件操作API、网络搜索工具），最终将结果返回给用户。，实现与Claude等云服务类似的高级功能，同时保持数据的本地化与可控性。
【ollama】（5）：在本地使用docker-compose启动ollama镜像，修改模型存储位置，并下载qwen-0.5b模型，速度飞快
freewebsys的专栏
03-14 7192
Ollama 是一个强大的框架，设计用于在 Docker 容器中部署 LLM。Ollama 的主要功能是在 Docker 容器内部署和管理 LLM 的促进者，它使该过程变得非常简单。它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型，例如 Llama 2。【ollama】（5）：在本地使用docker-compose启动ollama镜像，并下载qwen-0.5b模型，速度飞快。
有手就行，轻松本地部署 Llama、Qwen 大模型，无需 GPU
python12345678_的博客
07-02 3567
没有消费级的 GPU，竟然都可以拥有自己的本地大模型。部署过程基本上没有卡点，一台普通的 Mac 就能搞定，太香了~想学习什么，欢迎留言告诉我。​。
阿里Qwen3真实测评：MCP、推理、数学、代码、文学...(OpenAI、DeepSeek、Claude等六家PK)
强化学习曾小健
04-30 1060
所以我就想从网页版、本地版、API版，在代码、数学、逻辑推理、文本创作、MCP调用等多个方面，让 Qwen3 PK 每个领域的高手，包括 DeepSeek R1/V3、OpenAI o1/GPT4o、Claude3.7、Gemini等，从真实的案例里看出 Qwen3 真正擅长的。我仔细盘算了一下，“昨天的后天”和“明天的前天”是同一天？2、3、4月份，Qwen1.5先后开源了0.5B、1.8B、4B、7B、14B、32B、72B、110B足足八个不同规模模型。
保姆级教程：从零开始部署Ollma和Qwen大模型
2401_85373691的博客
11-12 4968
★我们平时使用的等Ai对话工具，其服务器都是部署在各家公司的机房里，如果我们有一些隐私数据发到对话中，很难保证信息是否安全等问题，如何在保证数据安全的情况下，又可以使用大语言模型，Ollma（哦拉玛）可以告诉你答案！
Ollama高效、功能齐全的LLM大模型服务工具——只需一条命令即可在本地跑语言大模型
热门推荐
HI
03-01 1万+
Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型。本文旨在简易教会读者如何下载安装配环境以及使用Ollama，本地体验到大模型的快速便捷。
MCP实战-基于Ollama+qwen2.5以stdio方式实现MCP协议工具调用
AI agent
03-25 3765
基于Ollama+qwen2.5已stdio方式实现MCP协议工具调用
用Qwen3+MCPs实现AI自动发布小红书笔记！支持图文和视频
Y525698136的博客
05-06 807
本文介绍了如何利用魔搭平台的AI能力实现小红书笔记的全自动化发布。通过小红书发布MCP，结合Qwen3模型生成文案、ModelScope-Image-Generation-MCP生成图片以及MiniMax-MCP生成视频，用户无需编写代码即可完成内容创作和发布。
实战教程来了！从零开始打造MCP+Ollama集成
yanqianglifei的专栏
04-19 792
模型上下文协议MCP与Ollama的整合实现指南在过去一两个个月里，模型上下文协议（Model Context Protocol，MCP）频繁出现在各种技术微信交流群中。我们已经看到了许多很酷的集成案例，大家似乎相信这个标准会长期存在，因为它为大模型与工具或软件的集成设立了规范。前面一篇文章给大家分享了MCP一些基础概念，但是读完之后还是模棱两可，所以决定尝试将Ollama中的小型语言模型与MCP服务器连接起来，体验一下这个新标准。今天，向大家展示如何实现Ollama与MCP服务器的集成。
MCP实战-基于Ollama+qwen2.5以sse方式实现MCP协议工具调用
AI agent
03-26 2264
指导实现基于Ollama+qwen2.5以sse方式实现MCP协议工具调用
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

李孟聊人工智能

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值