爬虫问题
SSX_ming
python之路之小白成长记
展开
-
解决Scrapy安装错误:Microsoft Visual C++ 14.0 is required...
转自:https://www.jb51.net/article/125081.htm 下面小编就为大家带来一篇解决Scrapy安装错误:Microsoft Visual C++ 14.0 is required...的问题。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧 当前环境win10,python_3.6.1,64位。 在windows下,在dos中运行p...转载 2018-11-01 17:25:47 · 248 阅读 · 0 评论 -
python爬虫 Get 和 Post的区别
GET请求 HTTP默认的请求方法就是GET * 没有请求体 * 数据必须在1K之内! * GET请求数据会暴露在浏览器的地址栏中 GET请求常用的操作: 1. 在浏览器的地址栏中直接给出URL,那么就一定是GET请求 2. 点击页面上的超链接也一定是GET请求 3. 提交表单时,表单默认使用GET请求,但可以设置为POST...原创 2018-11-21 12:23:28 · 1558 阅读 · 0 评论 -
python 反爬总结(1)- 限制IP UA 的解决方法,修改headers和添加IP代理池
在学习python爬虫的过程中,遇到各种反爬机制,个人总结了一下: 对同样的ip或User-Agent进行限制, 对频繁访问的ip进行限制, 设置登陆限制, 设置验证码, 设置Ajax加载页面。 目前小白我也就了解这么多,其中验证码的反反爬还在学习当中,学无止境啊 第一篇就说点简单的。 如果遇到前两种,还是比较好解决的。 遇到对User-Agent进行限制的,可以在代码中...原创 2018-11-19 22:29:33 · 4378 阅读 · 0 评论