通过MCP让LLM调用系统接口-CSDN博客

本文链接：https://blog.csdn.net/wxgxgp/article/details/147964891

场景

MCP的出现大大丰富了LLM的功能，对于存量系统，我们希望能让模型调用已有的接口，以最小的成本让AI能够获取系统内部数据。因此我们开发了一个名为http-api-call的MCP Server，来支持模型到内部API的调用

实现方案

使用用标准的MCP协议，重写call_tool和list_tool。

call_tool
在这里实现调用工具的逻辑，将请求信息转发给已有系统的后端接口调用
list_tool
在这里实现工具列表的查询，返回以及配置的API即可

这样我们将工具列表封装为tool_message，传递给模型，即可让模型自动选择合适的API调用。


#[derive(Debug, Clone)]
pub struct McpService;

impl McpService {
    pub fn new() -> Self {
        Self {}
    }

    /// 添加或更新API
    fn add_or_update_api(&self, req: Api) -> Res<()> {}

    /// 删除API
    fn remove_api(&self, req: RemoveApiReq) -> Res<()> {}
    
    /// 查询API列表
    fn list_api(&self, req: Option<ListApiReq>) -> Res<PageRes<Api>> {}
}

impl ServerHandler for McpService {
    async fn call_tool(
        &self,
        request: CallToolRequestParam,
        _context: RequestContext<RoleServer>,
    ) -> Result<CallToolResult, Error> {
    	// 请求转发
    }

    fn list_tools(
        &self,
        _request: PaginatedRequestParam,
        _context: RequestContext<RoleServer>,
    ) -> impl Future<Output = Result<ListToolsResult, Error>> + Send + '_ {
		//返回API列表
	}
}