(2023.12.6)解决部署privateGPT中,安装依赖llama-cpp-python失败。

问题描述-1(gcc编译器问题)

CMake Error: CMAKE_C_COMPILER not set, after EnableLanguage CMake Error: CMAKE_CXX_COMPILER not set, after EnableLanguage -- Configuring incomplete, errors occurred!
出现这个问题是关于设置C和C++编译器的问题,

解决思路

因为我是新电脑没有安装过gcc相关编辑器,故重新下载了 Visual Studio tool 2022在这里插入图片描述
选择安装。
在这里插入图片描述

安装好后重新运行llama-cpp-python依赖

pip install --force-reinstall --no-cache-dir llama-cpp-python

结果还是显示失败
在这里插入图片描述

问题描述-2(No CUDA toolset found)

新问题核心问题是
-- cuBLAS found CMake Error at C:/Users/Administrator/AppData/Local/Temp/pip-build-env-lr0mlpl6/normal/Lib/site-packages/cmake/data/share/cmake-3.27/Modules/CMakeDetermineCompilerId.cmake:503 (message): No CUDA toolset found.
提示没有找到CUDA工具集,但是电脑已经是安装了CUDA 12.1和配套cudnn,

解决思路

看问题是cmake没法找到cuda 工具集,找了相关资料,说是要把NVIDIA GPU Computing Toolkit目录MSBuildExtensions下面的文件复制到Microsoft Visual Studio文件目录下的BuildCustomizations下去。
完整路径如下:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\extras\visual_studio_integration\MSBuildExtensions

C:\Program Files (x86)\Microsoft Visual Studio\2022\BuildTools\MSBuild\Microsoft\VC\v170\BuildCustomizations

在这里插入图片描述

在这里插入图片描述

这里因为每个人安装的版本不同,需要找到合适的Vxx目录下面才有BuildCustomizations文件,我是22版本,所以是V170。找到BuildCustomizations文件夹后直接复制进去。
在这里插入图片描述
替换完成,再次运行

pip install --force-reinstall --no-cache-dir llama-cpp-python

在这里插入图片描述
显示安装成功,解决问题!

  • 15
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值