花菜回锅肉的博客

​ 在之前使用dify来编排AI智能体，有这样的一个场景，希望智能体能自动读取数据库数据，获得统计数据（问数），最终生成报告。​ 当时实现思路是，通过知识库告诉大模型相关表的字段定义，然后让大模型根据提示词生成对应统计指标SQL语句，然后调用mysql工具去执行，返回结果。这其中，需要整理一堆表定义的知识库，且最终效果也不好。​ MCP（Model Context Protocol，模型上下文协议 ）协议出现后，大量MCP服务涌出，其中mysql 类的MCP服务，使用cline可以得出不错的问数效果。

MCP（模型上下文协议）为AI应用提供标准化连接方案，类似USB-C端口，使LLM能快速集成各类数据源和工具。该协议支持插件式扩展、多LLM切换和本地数据隐私保护。文章以天气服务为例，演示如何搭建MCP服务器：通过FastMCP框架创建SSE通信的Web服务，实现天气预警和预报功能。客户端可使用支持MCP的AI工具（如VS Code的Cline插件）进行调用，配置本地服务地址后即可获取天气数据。MCP协议有效降低了AI应用开发门槛，实现了工具与模型的灵活解耦。

最近在学习大模型部署，需要安装flash-attn，在编译时报错centos7.9默认gcc最高版本为4.8.5以上报错需要高版本的gcc支持，所以需要升级GCC的版本，对应关系参考这里选择9.0版本进行升级。网上搜索教程，多是 基于centos yun 安装替换方式，比较复杂，该文章基于conda虚拟环境来进行升级，操作简单，对原系统侵入少。

deepseek 目前有DeepSeek-V3和DeepSeek-R1两个系列，DeepSeek-V3是由DeepSeek推出的一款拥有6710亿参数的专家混合（MoE）大语言模型，DeepSeek-R1是基于DeepSeek-V3-Base训练的高性能推理模型。这两个模型参数都非常大，性能也非常高，但部署成本非常高，对于小企业和个人不是很现实，但deepseek提供了蒸馏版本的小模型，但可以使用大模型的知识能力，对硬件配置要求较低。让用户以很低的成本，私有化部署大模型。