- 博客(7)
- 收藏
- 关注
RSS订阅原创 报错：SCRAM authentication requires libpq version 10 or above
【代码】报错：SCRAM authentication requires libpq version 10 or above。
2024-08-16 09:43:42
184
原创 简单聊天机器人
本地部署的LLM：Qwen2-72B-Instruct-GPTQ-Int4。使用vllm启动提供服务，并且采用兼容OPENAI接口服务。
2024-08-07 13:52:02
104
原创 基于本地模型实现的简单RAG
7. **数据集扩展**：在应用测试阶段，可以将运行作为示例添加到数据集中，以覆盖更多真实场景，持续收集数据以优化应用。5. **反馈过滤**：通过应用内的反馈按钮收集用户反馈，过滤并分析具有特定反馈标签和评分的跟踪，以识别问题点。2. **批量上传测试案例**：测试案例可以批量上传，即时创建，或从应用跟踪中导出，便于全面评估应用性能。3. **自定义评估**：提供工具运行自定义评估，包括基于LLM和启发式的评分，以量化测试结果。本地部署的LLM：Qwen2-72B-Instruct-GPTQ-Int4。
2024-08-06 10:49:14
131
原创 linux下如何下载huggingface模型到本地
使用huggingface-cli 来下载，这个工具是 Hugging Face 官方提供的命令行工具，自带完善的下载功能。我使用的OS是：CentOS Linux release 7.9.2009 (Core)
2024-08-05 15:31:25
192
原创 centos安装git-lfs
curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.rpm.sh | sudo bashsudo yum install git-lfs
2024-08-05 11:31:26
109
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人