Windows配置pip安装llama-cpp-python出现错误问题

引言

      最近体验一款python的开源工具,需要用到llama-cpp-python组件,我的电脑是windows10系统,python为3.10。直接pip安装llama-cpp-python,会提示 Can't find 'nmake' 字样的错误。通过查找中文互联网资料,是缺乏nmake工具,只找到“去安装VS  build tools” 这一条路,因为微软的Visual Studio包含该类工具。由于现在win10又不支持最新的VS 2022版本,最后找了VS2017的版本build tools下载安装,VS安装包很大(8个G),下载后又安装,倒是不报错了,但是卡在了build wheel这一过程中。无奈去找找其他办法。

解决办法

      进了github才发现,原来llama-cpp-python官方仓库readme文件就已经提到了这个问题。这个还不止一种解决办法。

方法一(推荐)

      可以直接安装时选择预编译文件即可,就不用自己的电脑来编译了,省时省力。安装命令如下:

pip install llama-cpp-python --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu

      不过网速可能有些慢,有魔法上网更好一些。

方法二

      这个解决方案我没试,因为方法一就成功了。不过还是先列出来,毕竟之前国内都没搜到这个方案。

      直接去github搜w64devkit仓库,根据自己电脑是32位还是64位找到对应的exe文件下载(34M对比vs build tools的8G轻量得不是一点半点)。

      安装exe文件。安装后打开cmd,输入以下配置指令:

$env:CMAKE_GENERATOR = "MinGW Makefiles"
$env:CMAKE_ARGS = "-DGGML_OPENBLAS=on -DCMAKE_C_COMPILER=C:/w64devkit/bin/gcc.exe -DCMAKE_CXX_COMPILER=C:/w64devkit/bin/g++.exe"

      其中,gcc.exe和g++.exe均要改成自己的安装后的路径。

      执行 pip install llama-cpp-python。

      该方法我未进行验证,如果有验证结果可进行评论反馈。


                
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值