- 博客(5)
- 收藏
- 关注
原创 ragflow跟dify区别
说白了Dify的知识库更多是为做AI应用做基础,ragflow更专注知识库搭建。RAGflow 和 Dify 都是用于搭建知识库和智能问答系统的工具,但它们在设计理念和功能侧重点、技术实现上有一些区别
2025-04-17 16:51:19
1657
原创 Docker部署Java项目
docker run -d -p 3306:3306 --name mysql镜像名称 -v /mydata:/var/lib/mysql -e MYSQL_ROOT_PASSWORD=123456 mysql:8.0.26。打包Java程序——war、jar包。新建前端dockerFile文件。docker pull 拉取。
2025-04-10 21:51:37
177
原创 VLLM调优
vLLM 是一个高效的大模型推理框架,专为优化显存利用和高吞吐量设计。如果需要更具体的代码框架示例,可以进一步说明你的使用场景(如多GPU部署、API服务等)!这些代码需要在加载模型时一次性配置,且必须在调用。(如模型加载参数、显存优化、并行策略等)必须写在。(如解码策略、生成长度等)则在调用。部分系统级配置(如环境变量)需在。在 vLLM 中,所有与。
2025-03-24 14:17:23
2444
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人