自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(5)
  • 收藏
  • 关注

原创 docker安装llama-cpp-python加载gguf推理全过程

llama-cpp-python加载gguf推理全过程

2024-09-12 18:43:23 190

原创 批量安装whl文件(没网环境下)

在无网络连接的环境中,部署Python应用时经常需要预先准备基础的依赖包。尤其是当使用Docker容器,而容器配置不允许联网时,手动安装依赖包成为必要步骤。在某些场景下,Docker容器可能只包含最基础的依赖,且不允许联网。通过这种方法,我们可以确保在无网络环境下也能顺利安装所有必需的Python依赖包,从而保证应用的顺利部署和运行。--find-links={package_path}`:指定本地文件路径,让pip从该路径中查找并安装依赖。:在有网络的环境中,预先下载所有必需的whl文件。

2024-08-21 10:34:51 402

原创 MAC-SQL: A Multi-Agent Collaborative Framework for Text-to-SQL 论文阅读

MAC-SQL: A Multi-Agent Collaborative Framework for Text-to-SQL,作者们来自北京航空航天大学和腾讯优图实验室。摘要中提到,基于大型语言模型(LLM)的Text-to-SQL方法在处理大型数据库和需要多步推理的复杂用户问题时,通常会遭受显著的性能下降。此外,大多数现有方法忽略了LLM利用外部工具和模型协作的重要性。

2024-08-06 18:08:22 1072

原创 AI4S Cup - LLM挑战赛 - 大模型提取“基因-疾病-药物”知识图谱-Rank4解决方案

用的是LLaMa-Factory的仓库代码进行LoRA微调的,途中切换过gemma-7b、llama-7b、Mistral-7B-Instruct-v0.2。这个比赛有三个子任务,每个子任务需要抽取对应的三元组或者二元组的对应信息,前期的工作主要是数据清洗,后面才是调整prompt和切换预训练模型以及调参。A榜测试集25篇,B榜测试集50篇,数据样本小,给B榜带来了极大的不确定性。但在A榜的测试结果显示,gemma-7b的效果最好,比Mistral 和 llama高~2个点左右。左右的实体成功匹配。

2024-05-10 16:34:52 418

原创 Google搜索免费API访问

Google搜索免费API访问

2024-03-27 22:14:16 777

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除