作为一个啥也不懂的小白。为了毕业开始好好写程序和心得。
最近开始忙毕业项目,数据需要使用爬虫获取。于是打算把整个过程用csdn的博客记录下来
首先爬取网页,尤其是社交网站最需要的就是在爬取之前进行登录。
这个爬虫的目的是模拟登录豆瓣网,并验证性的做一个跳转。
主要难点还是在于验证码的处理上。
由于第一次请求的网页附带的验证码和第二次的不同所以会出现一个问题验证码不统一。
于是我们需要使用cookie将登录数据整合起来发送给需要接受的url
这是登录的网页的 url
这是网页以及post的信息
其中 post代表的是将这个页面的登录信息发送给 www.douban.com
所以具体的流程就是在第一个url中请求后判断有无验证码,再将登录信息发给需要访问的主页。
代码如下