- 博客(7)
- 收藏
- 关注
原创 报错:SCRAM authentication requires libpq version 10 or above
【代码】报错:SCRAM authentication requires libpq version 10 or above。
2024-08-16 09:43:42
184
原创 简单聊天机器人
本地部署的LLM:Qwen2-72B-Instruct-GPTQ-Int4。使用vllm启动提供服务,并且采用兼容OPENAI接口服务。
2024-08-07 13:52:02
104
原创 基于本地模型实现的简单RAG
7. **数据集扩展**:在应用测试阶段,可以将运行作为示例添加到数据集中,以覆盖更多真实场景,持续收集数据以优化应用。5. **反馈过滤**:通过应用内的反馈按钮收集用户反馈,过滤并分析具有特定反馈标签和评分的跟踪,以识别问题点。2. **批量上传测试案例**:测试案例可以批量上传,即时创建,或从应用跟踪中导出,便于全面评估应用性能。3. **自定义评估**:提供工具运行自定义评估,包括基于LLM和启发式的评分,以量化测试结果。本地部署的LLM:Qwen2-72B-Instruct-GPTQ-Int4。
2024-08-06 10:49:14
131
原创 linux下如何下载huggingface模型到本地
使用huggingface-cli 来下载,这个工具是 Hugging Face 官方提供的命令行工具,自带完善的下载功能。我使用的OS是:CentOS Linux release 7.9.2009 (Core)
2024-08-05 15:31:25
192
原创 centos安装git-lfs
curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.rpm.sh | sudo bashsudo yum install git-lfs
2024-08-05 11:31:26
109
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人