llama_cpp python安装失败解决方案

已于 2024-08-01 13:13:25 修改
阅读量297 收藏
点赞数 4
文章标签： llama python
于 2024-07-31 20:39:22 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tanixn/article/details/140831929
版权

在构建RAG-LLM系统时，用到了llama_cpp这个python包。但是一直安装不上，报错。

“ERROR: Failed building wheel for llama_cpp_python”

“ERROR: Could not build wheels for llama_cpp_python, which is required to install pyproject.toml-based projects”

尝试在安装包名改为“llama_cpp_python”无效。

最后在Github上发现有人同样的报错。解决方法如下：

安装visual studio 2022，并且勾选C++桌面开发选项与应用程序开发选项；

然后再继续安装llama_cpp即可。

具体原因不详。

Github链接：https://github.com/abetlen/llama-cpp-python/issues/244

tanixn
关注
  • 4
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
llama.cpp.rar
04-23
《llama.cpp在Windows环境下的应用与开发解析》 在信息技术领域，编程是构建软件的基础，而源代码文件则是程序员的“墨宝”。当我们提到"llama.cpp.rar"时，这是一个压缩包，其中包含了名为"llama.cpp"的C++源代码...
开发和启用llama2 api
10-01
这是一个基于Gradio的通用文本生成模型Web UI框架，支持transformers、GPTQ、llama.cpp (ggml)、Llama模型等。它的目标是成为文本生成的AUTOMATIC1111/stable-diffusion-webui。以下是启动API的完整流程： 1. 安装...
windows安装llama_cpp进行大模型微调
rgcujbxk的博客
12-27 743
直接下载visual studio 2022（选择桌面c++编译器），选择python3.10的anaconda环境。操作：pip install llama-cpp-python。
大模型在cpu上使用llama_cpp部署无法加载模型的问题
rgcujbxk的博客
12-28 2077
错误：gguf_init_from_file: invalid magic characters 'tjgg'等，也就是无法加载模型。因为最新版的llama-cpp-python不支持ggml文件格式了。3、利用llama.cpp内部转换函数进行转换。2、直接下载对应GGUF的模型。
[机器学习]-如何在 MacBook 上安装 LLama.cpp + LLM Model 运行环境
owlion的博客
02-26 1935
本文介绍了如何通过 llama.cpp 在普通硬件环境下安装部署大语言模型的运行环境，为知识学习和开发本地智能服务提供支持。
llama-cpp-python安装bug：error: subprocess-exited-。scikit-build-core 0.8.2 using CMake 3.28.3 (wheel)
集电极
03-05 2289
Building wheel for llama-cpp-python (pyproject.toml) ... error error: subprocess-exited-with-error × Building wheel for llama-cpp-python (pyproject.toml) did not run successfully. │ exit code: 1 ╰─> [325 lines of output] *** scikit-build-c
centos_opencv_python3.6安装报错解决方法
qq_40894894的博客
09-12 169
ERROR: Could not build wheels for opencv-python, which is required to install pyproject.toml-based projects
【学习笔记】：Ubuntu 22 使用模型量化工具llama.cpp部署大模型 CPU+GPU
qq_44305583的博客
03-13 3093
Ububtu22下模型量化工具llama.cpp及llama-cpp-python部署应用。
LLaMA.cpp 是什么？与 GPT 哪个效果更好？
2401_85378759的博客
06-25 734
LLaMA.cpp 是 Facebook LLaMA 模型的 C/C++ 端口，LLaMA 模型是一种大型语言模型 (LLM)，可以生成文本、翻译语言、编写不同类型的创意内容，并以信息丰富的方式回答您的问题。GPT 4 是另一种流行的 LLM，除非你住在山洞里，否则你可能听说过它，它是由 OpenAI 开发的生成式预训练模型。GPT 4 还可以生成文本、翻译语言和回答问题。LLaMA.cpp是用C/C++编写的，C/C++是一种高性能编程语言。
Llama2通过llama.cpp模型量化 Windows&Linux本地部署
早安不安的博客
11-11 7750
本地部署和使用llama.cpp进行量化Llama2，linux和Windows平台方案，支持CPU和GPU多版本。
Python库 | cupy_cuda112-10.4.0-cp310-cp310-win_amd64.whl
05-04
资源分类：Python库 所属语言：Python 资源全名：cupy_cuda112-10.4.0-cp310-cp310-win_amd64.whl 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
Python库 | llama_slobber-0.0.17.tar.gz
04-10
资源分类：Python库 所属语言：Python 资源全名：llama_slobber-0.0.17.tar.gz 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
Python库 | llama_slobber-0.0.15-py3-none-any.whl
03-21
总的来说，Python库如"llama_slobber"是Python生态系统的重要组成部分，它们极大地扩展了Python的功能。了解如何找到、安装和使用这些库，是每个Python开发者必备的技能。对于特定的库，我们需要通过查阅文档和实践...
LLaMA 大语言模型系列论文阅读
最新发布
qq_43799400的博客
08-02 235
LLaMA 大语言模型系列论文阅读
LangChain +Streamlit+ Llama ：将对话式人工智能引入您的本地设备成为可能（上篇）
chajinglong的专栏
08-02 466
🦜️ LangChain +Streamlit🔥+ Llama 🦙：将对话式人工智能引入您的本地设备🤯。这些模型使用包括书籍、文章、网站和其他来源的大量数据集进行训练。通过分析数据中的统计模式，LLM预测给定输入后最可能出现的词语或短语。最近几年LLM的时间线： 《大型语言模型综述》[1]图片链接：通过利用大型语言模型（LLM），我们可以有效地利用领域特定数据来解决问题。当处理模型在初始训练期间无法访问的信息时，例如公司的内部文件或知识库，这将特别有优势。
Selenium与WebDriver：Errno 8 Exec格式错误的多种解决方案
ip16yun的博客
07-30 376
在使用Selenium和WebDriver进行网页自动化时，可能会遇到各种错误。其中一个常见问题是执行格式错误（Errno 8 Exec format error）。这个错误通常在运行ChromeDriver时出现，错误提示涉及路径中的某个文件。本文将概述这个问题的背景，并提供多种解决方案，包括如何使用代理IP技术进行数据抓取。
python字符串数据容器练习（replace,split,count）
2301_79600015的博客
07-31 458
Python字符串是由一系列字符组成的数据类型。在Python中，字符串是不可变的，这意味着一旦创建了一个字符串，就不能修改它的内容。以下是关于Python字符串的一些重要知识点：1. 字符串的基本操作：拼接字符串：使用`+`运算符。重复字符串：使用`*`运算符。索引和切片：使用`[]`和`:`操作符访问字符串中的子串。长度：使用`len()`函数获取字符串长度。转换大小写：使用`upper()`和`lower()`方法。分割和连接：使用`split()`和`join()`方法。
python3 -m venv llm/llama.cpp/.venv
05-04
"python3 -m venv" 是 Python3 自带的一个虚拟环境创建工具，可以用于创建 Python3 虚拟环境。"-m" 表示模块名，"venv" 表示要使用的模块。"llm/llama.cpp/.venv" 是你指定的虚拟环境目录名称，可以根据自己的需求自定义。 在运行 "python3 -m venv llm/llama.cpp/.venv" 命令后，会在当前目录下创建一个名为 "llm/llama.cpp/.venv" 的虚拟环境目录，该目录中包含了一个独立的 Python3 解释器和一个独立的 pip 包管理器，可以用于安装和管理 Python 包，同时也可以避免不同项目之间的包冲突问题。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值