pyspider爬虫库的报错解决方案

本文分享了在使用pyspider过程中遇到的三大问题及解决办法。首先,通过手动下载whl文件解决了pip安装pyspider时pycurl的报错。接着,详细介绍了如何下载并配置PhantomJS,包括添加bin目录到系统变量。最后,针对pyspider运行时因async关键词冲突和wsgidav兼容性问题,提供了修改import语句和降级wsgidav版本的解决方案。
摘要由CSDN通过智能技术生成

关于我使用pyspider遇到的一些坑

前言

废话不多说直接正题


提示:以下是本篇文章正文内容。

一、第一个大坑

官方给出的安装方法非常简单即是

pip install pyspider

殊不知噩梦才刚刚开始。
在这里插入图片描述

直接通过pip安装会pycurl爆红听朋友说是因为高版本环境变量会莫名其妙失踪
这里我推荐使用whl文件手动下载没用过此方法的朋友可以使用

pip install wheel

然后去官网下载对应的版本这里我选择的是pycuda‑2021.1+cuda102‑cp37‑cp37m‑win_amd64.whl
本人使用的是3.7.4版本找到你使用的版本然后下载放到桌面使用

pip install pycuda-2021.1+cuda102-cp37-cp37m-win_amd64.whl

这步请输入你对应版本的全名
完成
完成你们应该会出现进度条我在此步已经安装完毕

二、由于pyspider依赖PhantomJS所以我们还需要安装他

1.已经安装了的小伙伴还请跳过此步

官方网站

https://phantomjs.org/download.html

选择对应系统立即开始下载在这里插入图片描述
下载完毕后解压到你想存放的盘然后将其中的bin目录添加至系统变量

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值