- 博客(10)
- 收藏
- 关注
RSS订阅原创 使用MCP构建本地工具服务并接入Claude
基于对MCP（Model Context Protocol）官方文档的理解，本文介绍如何基于 MCP编写一个本地 MCP Server，通过接入，从而让 Claude 在对话中自动发现并调用你提供的工具。文档同时解释关键概念、STDIO 通信约束、日志规范、配置方式与排错手段，并给出完整可运行示例（以官方文档的天气查询为例）。
2026-03-23 21:20:53
442
原创 从0到1构建MCP Server Docker镜像
这两年MCP Server很火爆，但是我一直不了解什么是MCP Server，借着这个机会，实践了一把MCP Server的搭建，因为资源有限，后续再补充LLM模型应用MCP Server的部分。本demo介绍了如何从零开始构建一个基于MCP的磁盘监控服务器Docker镜像。该镜像包含一个MCP服务器，提供磁盘SMART状态检查和磁盘列表查询功能，以及对应的客户端测试工具。
2026-01-22 16:53:37
1108
原创 火山引擎 EIC 与 LMCache 的对比
维度火山引擎 EICLMCache核心价值企业级分布式KVCache基础设施KVCache优化算法与中间件技术深度底层网络+存储全栈优化专注缓存匹配与重用算法容量规模10PB级，无限扩展受限于部署架构延迟控制亚毫秒级(GPU Direct RDMA)毫秒级(标准网络)可靠性企业级，故障快速恢复基础保障，适合非关键业务部署复杂度需专业团队运维相对简单，易于集成成本结构商业服务，按需付费开源免费，自建成本适用阶段大规模生产环境开发/验证/中小规模部署技术壁垒高(涉及硬件加速与分布式系统)
2025-08-12 14:04:02
1229
原创 Lmcache+vllm——KVcache卸载CPU/SSD探索
目前查看了vllm、Nvidia dynamo、mooncake都没有找到将kvcache卸载到SSD的方法，幸好lmcache支持。以下进行lmcache+vllm实践，对比将kvcache分别卸载到CPU-ram和SSD上的TTFT性能差异。目前的query只是单并发，对比的效果已经比较明显了，可能多并发下对存储的要求就会更高了。
2025-07-23 14:45:28
2421
1
原创 NVIDIA RAG 蓝图实践——从‘0’部署NemoRetriever+milvus+llama
目前RAG本地化的需求越来越常见，但在实际操作中，部署流程与常见问题困扰着不少开发者，部署NVIDIA蓝图是一个易行的方案，本文将详细阐述从零开始搭建基于NVIDIA蓝图的RAG流程的优秀实践。
2025-07-08 15:22:00
770
原创 NVIDIA Dynamo初体验(二）—— vllm部署之aggregate&disaggregate
作为AI小白，初体验dynamo之后，想要继续探索dynamo工具，对dynamo在RAG架构的优化有个初步理解，再探索dynamo两种部署方式，计算它们之间的性能差异。
2025-07-04 18:55:03
1114
原创 NVIDIA Dynamo初体验
dynamo支持多级存储管理、kvcache，现在各个存储厂商近期适配宣传适配类似dynamo的技术，所以什么是dynamo，以及如何get started？本文涵盖Dynamo架构、安装、基础运行、分布式服务和开发流程，实践内容来自于dynamo官方github文档。
2025-07-01 20:28:23
1093
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人