- 博客(6)
- 收藏
- 关注
原创 GraphRAG+Ollama实现本地部署(最全,非常详细,保姆教程)
GraphRAG+Ollama本地部署, GraphRAG Ollama为了找到一种省钱的方式并且能够使用GraphRAG便可以调用Ollama本地部署的开源大模型,但需要修改部分源码,我已经实现过了,给大家避坑,快读部署。如果对你有用的,欢迎点赞、收藏!
2024-07-23 17:40:11
6679
90
原创 微软开源GraphRAG的使用教程(最全,非常详细)
目前微软已经开源了GraphRAG的完整项目代码。对于某一些LLM的下游任务则可以使用GraphRAG去增强自己业务的RAG的表现。项目给出了两种使用方式:1. 在打包好的项目状态下运行,可进行尝试使用。2. 在源码基础上运行,适合为了下游任务的微调时使用。
2024-07-17 15:04:18
21646
75
原创 知识蒸馏的简单理解
知识蒸馏是通过构建一个轻量化的小模型,利用性能更好的大模型的监督信息,来训练这个小模型大模型: Teacher model 小模型:Student modelTeacher model 输出的知识(knowledge) Student model 学习来自Teacher的监督的信息的过程–> Distillation(蒸馏)
2023-12-07 09:40:43
594
原创 RuntimeError: No CUDA GPUs are available问题解决
本地在调试机上跑没问题,但是上传到服务器上正是跑出现问题,出现如下报错。调试机上有4块GPU资源,但是正式提交平台后单卡训练。修改为“0”,”1“ ,问题解决!
2023-11-24 14:02:52
1610
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人