SpringAi调用Ollama（deekseep）的Toolcall失败原因

最新推荐文章于 2025-04-17 17:44:13 发布

未曾※放弃꿈

最新推荐文章于 2025-04-17 17:44:13 发布

阅读量370

点赞数 6

文章标签： spring 语言模型

本文链接：https://blog.csdn.net/qq_54203750/article/details/146397225

版权

1、根本原因

其实ollama上的deepseek目前并不支持调用Toolcall，r1和v3都不行，那怎么选呢（需要有tool的标签才能支持）：

在这里插入图片描述

2、向量数据源影响其判断

可以将其向量数据源注释掉看看是否能进入，如果确定是这个原因，那什么模型不够智能，或者可以把向量数据库的数据优化一下
在这里插入图片描述

3、函数重复

这时候调用是会报错的 `java.lang.IllegalStateException: Multiple tools with the same name (getNowTime) found in ToolCallingChatOptions` ,这个两个原因

模型导入重复

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/d26883345ab149eb9b91687289838f30.png)

函数重复

@Tool 注解的含义可能有歧义导致模型不能分辨

因为SpringAI很多的功能都还在试验，所以试验的样本相对比较少，并且后续可能也会被官方调整

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

未曾※放弃꿈

关注关注

6
点赞
踩
0

收藏

觉得还不错? 一键收藏
3
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

SpringAI系列 - ToolCalling篇（二） - 如何设置应用侧工具参数ToolContext（有坑）

罗小爬的技术宝书

02-19

753

在使用AI大模型的工具调用机制时，工具参数都是由大模型解析用户输入上下文获取的，由大模型提供参数给本地工具调用。传递额外的应用侧（客户端）参数给工具调用，如此应用侧在执行工具调用的过程中，便可获取到应用侧层传递的上下文参数，同时又可获取到AI大模型模型传递的工具参数。参数的，这个参数是Spring AI自身用来设置应用侧参数的，并不需要大模型提供。来解析工具参数，查看其源码发现目前并没有预留排除参数定义的方式。，如此在将工具描述上传给大模型时，大模型会认为工具同时需要。获取应用侧的上下文参数。

SpringAI系列 - Tool Calling篇（一）- @Tool集成、Function集成

罗小爬的技术宝书

02-18

877

如果您不提供描述，则将使用方法名称作为工具描述。强烈建议提供详细描述，因为这对于模型理解工具的目的和如何使用它是至关重要的。注解，并在提示选项中提供它（单个提示中可以定义和引用多个工具），以便模型可以使用。在大模型无法回答我们的问题时，会自动检测用户输入时提供的工具并调用相应的工具，Spring AI框架会自动处理会话中的工具调用，通过调用。模式会将大模型的响应拆分成多条记录，导致Spring AI无法正确提取到工具调用的上下文。同样以之前发送警报的工具调用为例，调整为使用Function集成的方式，

3 条评论您还未登录，请先登录后发表或查看评论

Spring AI ToolCalling 扩展模型能力边界

laopeng301的专栏

03-26

1445

Spring AI ToolCalling实际上利用了大模型的 Function Call（函数调用）能力。它对于大模型来说意义重大主要扩展模型能力边界。Spring AI 实现MCP ToolCalling提供基础能力。

深入解析 Spring AI 系列：解析函数调用

weixin_36448205的博客

01-20

274

我们之前讨论并实践过通过常规的函数调用来实现 AI Agent 的设计和实现。但是，有一个关键点我之前并没有详细讲解。今天我们就来讨论一下，如何让大模型只决定是否调用某个函数，但是Spring AI 不会在内部处理函数调用，而是将其代理到客户端。然后，客户端负责处理函数调用，将其分派到相应的函数并返回结果。好的，我们开始。函数调用核心代码函数调用是开发AI Agent的关键组成部分，它使...

springai+pgvector+ollama实现rag

wang_keng的博客

07-04

3305

这里他会帮我们建一个叫vector_store的表，其中包含id(uuid),metadate(json),content(text),embedding(vector(1536))。当我们用默认建的表去做pgvector的诗句存储时会出现 ERROR: expected 1536 dimensions, not 768这样的报错，就是表示我们ollama中的embedding模型输出的dimensions是768，而pgvector中的embedding是1536，他们不匹配所以无法存储。

Spring AI Alibaba + Ollama：国产 LLM DeepSeek 低成本AI应用开发认知

2401_85343303的博客

03-12

1371

Spring AI 是由 Spring 官方维护的 AI 开发框架，旨在简化企业级 AI 应用构建。Spring AI借鉴了 Python 生态的 LangChain 等工具的设计理念，但并非直接移植，而是专注于解决 Java 开发者面临的 AI 集成核心难题——将企业数据/API 与 AI 模型无缝连接，突破 Python 生态垄断，推动生成式 AI 应用向多语言生态扩展。是阿里云为Java开发者打造的开源 AI 开发框架，基于Spring AI深度集成通义系列模型，提供标准化接口和高阶抽象能力。

Spring AI 工具(Function Calling)

王小工小工历程

01-15

1414

Function Calling是一种技术，它允许大型语言模型（如GPT）在生成文本的过程中调用外部函数或服务。这种功能的核心在于，模型本身不直接执行函数，而是生成包含函数名称和执行函数所需参数的JSON，然后由外部系统执行这些函数，并将结果返回给模型以完成对话或生成任务。Function Calling主要解决了大型语言模型在处理任务时的局限性，尤其是模型自身无法获取实时信息或执行复杂计算的问题。

registry.ollama.ai/library/deepseek-r1:7b does not support tools (status code: 400)问题解决

u014079531的博客

02-21

1867

如图，选择下载带"tools"标识的模型就行。

Spring AI使用tool Calling和MCP

沉浮

04-12

1390

Spring AI版本1.0.0.M6在人工智能与软件开发深度融合的时代，Spring AI 作为一个强大的框架，持续为开发者提供着高效且便捷的工具，以实现与大语言模型（LLM）的无缝交互。Spring AI 的最新版本引入了一系列令人瞩目的特性，其中 Function Calling 到 Tool Calling 的转换以及模型上下文协议（MCP）的应用，标志着该框架在 AI 集成领域的又一次重大飞跃。

【异常】SpringAI提示错误 400 - {“error“:{“message“:“field messages is required (request id: xx,“type“:“

本本本添哥

11-27

1084

可能是需要传递给AI服务的一系列消息或指令，通常以JSON格式表示。例如，如果使用的是聊天机器人的API，具体来说，这个错误信息表明在向某个AI服务发送请求时，没有提供。可能是一个包含对话历史的数组，每个元素代表一个消息对象。异常，该异常是由于请求中缺少必需的字段。字段，而这个字段是API所要求的。：确保你在构建请求体时正确地包含了。从错误日志来看，发生了一个。

SpringAI调用Ollama通义千问源码

10-19

在当今信息化迅速发展的时代...通过SpringAI调用“通义千问”服务，开发者将能够轻松集成强大的自然语言处理能力到他们的应用程序中，这不仅能够显著提升应用的智能化水平，还能为用户提供更自然、更人性化的交互体验。

ollama，springAi实现自然语言处理

wang_keng的博客

06-27

1201

ollama，springai

【Ollama+Langchain】通过Http的进行本地大模型调用

cherrysssss的博客

12-09

1828

第二步，定义业务函数'city': {},# 第三步,通过业务处理函数描述，把业务函数绑定到大模型上# 第四步，发起交互提示：这里注意bind_tools()方法。

python 使用Langchin访问本地Ollama的两种方式

cangqiongxiaoye的博客

12-01

733

python 使用Langchin访问本地Ollama的两种方式

【AI大模型】Cherry Studio和Deepseek模型搭建本地知识库+硅基流动API调用+本地ollama模型调用

LeonJin的博客

02-08

3127

构建知识库的技术路径并不难理解，cherry studio给出了很完整的解决方案和工程实现demo从结果完整度来看，deepseek-r1 > deepseek-v3 > deepseek-r1:14b从耗时情况来看，deepseek-r1:14b < deepseek-v3 < deepseek-r1 (不排除云端资源紧张导致耗时增加)基本上可以确认基于推理模型和嵌入模型以及一系列的知识前处理和后处理工具可以搭建出一个本地知识库。

Java 开发玩转 MCP：从 Claude 自动化到 Spring AI Alibaba 生态整合

最新发布

阿里巴巴云原生的博客

04-17

1310

Spring AI MCP 为模型上下文协议提供 Java 和 Spring 框架集成。它使 Spring AI 应用程序能够通过标准化的接口与不同的数据源和工具进行交互，支持同步和异步通信模式。整体架构如下：Spring AI MCP 采用模块化架构，包括以下组件：Spring AI 应用程序：使用 Spring AI 框架构建想要通过 MCP 访问数据的生成式 AI 应用程序Spring MCP 客户端：MCP 协议的 Spring AI 实现，与服务器保持 1:1 连接。

spring-ai-alibaba第三章ollama集成Tool

zsj777的专栏

04-01

470

此时就需要大模型的 function call 的功能，也就是给大模型加上工具。controller代码如下。请告诉我现在北京时间几点了。1、当我们使用大模型问。

Ollama 最新功能介绍：工具调用

m0_59163425的博客

09-18

3407

关于在 Ollama 中使用函数调用的全面指南。

springai集成ollama

02-06

### SpringAI 集成 Ollama 方法为了实现SpringAI与Ollama的集成，在`application.yml`文件中指定Ollama的基础URL以及所使用的模型名称。具体来说，配置如下所示[^3]： ```yaml spring: ai: ollama: base-url: http://localhost:11434 embedding: model: llama2 ``` 上述配置指定了Ollama服务的位置为`http://localhost:11434`，并且选择了名为`llama2`的预训练模型用于嵌入操作。接着，在Spring Boot应用程序中可以通过依赖注入的方式获取到已配置好的组件实例，并调用相应的方法来完成具体的任务处理逻辑。由于Spring AI简化了与大型语言模型（LLM）之间的交互接口设计，使得开发者能够更加专注于业务逻辑本身而不必过多关心底层通信细节[^4]。下面是一个简单的代码片段展示如何利用Spring Data JPA查询数据库并将结果传递给Ollama进行进一步分析或生成回复的例子： ```java @RestController @RequestMapping("/api/v1/ollama") public class OllamaController { private final OllamaService ollamaService; @Autowired public OllamaController(OllamaService ollamaService) { this.ollamaService = ollamaService; } @GetMapping("/analyze/{id}") public ResponseEntity<String> analyze(@PathVariable Long id) { String result = ollamaService.analyze(id); return ResponseEntity.ok(result); } } ``` 在此基础上，还可以根据实际需求扩展更多功能模块，比如增加错误重试机制、日志记录等功能以提高系统的稳定性和可维护性。