- 博客(3)
- 收藏
- 关注
RSS订阅原创 零基础入门RAG！本地部署企业级知识库问答系统，支持GPU加速+API调用
本文介绍了一个本地化企业知识库问答系统项目rag-knowledge-base，支持PDF/Word文档导入、本地LLM推理和GPU加速。项目特点包括：文档自然语言查询、数据本地存储、可视化界面操作、标准化API接口等。文章详细提供了从环境配置（Python/Git/Docker安装）、项目部署到实际操作的完整教程，包含硬件要求、软件安装步骤、GPU加速配置方法及参数调优建议。特别针对零基础用户设计了可直接复制的命令和保姆级指导，使新手能快速搭建并体验本地知识库系统。项目后续还将持续更新更多功能。
2026-03-31 17:58:55
598
原创 解决 Windows 编译安装 llama-cpp-python CUDA 加速版失败问题
摘要：在Windows系统编译llama-cpp-python的CUDA版本时，CMake报错"No CUDAtoolset found"的主要原因是未能自动定位nvcc.exe。
2026-03-21 01:27:11
267
原创 Java 微服务 AI 聊天平台Demo搭建
《微服务AI聊天平台开发设计文档》摘要 本文档详细介绍了基于SpringCloudAlibaba的微服务AI聊天平台V1.0设计方案。平台采用Nacos实现服务注册与配置管理，支持SSE流式输出和多模型（Minimax/DeepSeek）动态切换。系统采用分层架构设计，包含控制器层、业务层、能力抽象层和模型实现层，实现了业务与模型的完全解耦。核心功能包括统一聊天接口、模型路由机制和异步流式处理，支持通过Nacos动态配置模型参数。文档提供了完整的模块结构、接口定义、Nacos配置示例和扩展规范。
2026-03-19 18:21:35
654
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人