爬虫从零基础到日常爬取
文章平均质量分 75
爬虫的日常分享,requests,selenium,scrapy相关。
南风知我意957
数据科学与大数据技术
展开
-
requests和selenium
requests与selenium对比requests1,获取响应头,进行UA伪装:2,获取网页的整个页面数据xpath解析selenium1,安装浏览器驱动2,selenium代码的编写(模拟登录QQ空间)3,解析第一条说说requestsrequests是一个python的第三方库,用来做爬虫项目等,以我小白的理解,我觉得它比scrapy简单不少。接下来,让我们对它来个简单的使用吧,以QQ空间为例。1,获取响应头,进行UA伪装:我们只需要打开网页,然后按下F12,便会获得以下界面:按下CT原创 2021-10-30 12:45:42 · 3307 阅读 · 0 评论 -
解决scrapy的无输出问题
scrapy问题解决**scrapy无输出问题解决**昨天跟着老师敲的时候,发现自己的scrapy无输出,心想:老师运行是对的,为什么我运行就是错的,于是在网络上疯狂寻找答案,最终还是没能解决,一觉之后,突然想到以前使用xpath时的错误。突然就想着试一下。果然,解决了问题。使用requests时的类似错误import requestsfrom lxml import etreeheaders={ 'User-Agent':"Mozilla/5.0 (Windows NT 10.0;原创 2021-08-13 12:50:25 · 3826 阅读 · 7 评论