python-知乎模拟登录

这里写图片描述

本篇文章用于记录如何实现知乎模拟登录

本篇采用firefox浏览器,按F12开发者工具来进行HTTP交互的获取和分析。需要设置开发者工具中的preserve log选项,否则会因为HTTP交互过多,无法参考中间过程的HTTP请求和回应

登录知乎,通过开发者工具来查看HTTP交互,发现实际的登录地址为https://www.zhihu.com/login/email. 这是我们使用email进行登录,如果使用手机号码进行登录,那么实际的登录地址为http://www.zhihu.com/login/phone_num.
这里写图片描述

该登录是通过post方式实现,所以我们需要查看并分析postdata。
这里写图片描述

需要特别提到的是_xsrf,它是页面校验码,用来检查你是否是从正常的登录页面过来的,从而防止跨站点请求伪造。这个参数是动态变化的,所以不能获取一次后就一劳永逸,通过html中使用正则表达式匹配出来.
这里写图片描述

如果只是把以上数据post过去不一定会成功,因为很有可能需要验证码。关于验证码的网页地址,在页面的html中可以看到,但通过程序读取的内容中确搜不到。通过在https://www.zhihu.com/question/29925879的最高票的答案,可以知道验证码的网址由时间戳组成。

t = str(int(time.time()*1000))
    captcha_url = 'http://zhihu.com/captcha.gif?r='+t+"&type=login"

关于验证码的识别,在本文章中使用手动输入进行识别。以后会尝试自动进行图片验证码的识别,传统的机器学习算法可能有一定困难,但通过卷积神经网络等深度学习算法可以拥有不俗的识别率,在之后的进阶版中将会集成卷积神经网络。

在进行模拟登录前,需要记录该网站的Cookie。Cookie就是保存在用户端的经过加密的数据,从而实现Session跟踪。某些网站通过Cookie来识别用户身份,某些网页需要登录后才能访问,通过加载Cookie后就可以进行访问并爬取。关于session和cookie的详解可以参考这篇文章http://blog.csdn.net/fangaoxin/article/details/6952954/

可以先通过访问https://www.zhihu.com/settings/profile 来判断是否登录,如果没有登录,知乎会将你的访问进行重定向,所以返回的HTTP状态码就是301或302。

如果登录成功,返回的结果:
这里写图片描述
如果登录失败,返回的结果:
这里写图片描述

本篇的实现代码:https://github.com/EdwardLee0331/zhihuLogin
觉得好的可以打个star

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【为什么学爬虫?】        1、爬虫入手容易,但是深入较难,如何写出高效率的爬虫,如何写出灵活性高可扩展的爬虫都是一项技术活。另外在爬虫过程中,经常容易遇到被反爬虫,比如字体反爬、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能学到!        2、如果是作为一个其他行业的开发者,比如app开发,web开发,学习爬虫能让你加强对技术的认知,能够开发出更加安全的软件和网站 【课程设计】 一个完整的爬虫程序,无论大小,总体来说可以分成三个步骤,分别是:网络请求:模拟浏览器的行为从网上抓取数据。数据解析:将请求下来的数据进行过滤,提取我们想要的数据。数据存储:将提取到的数据存储到硬盘或者内存中。比如用mysql数据库或者redis等。那么本课程也是按照这几个步骤循序渐进的进行讲解,带领学生完整的掌握每个步骤的技术。另外,因为爬虫的多样性,在爬取的过程中可能会发生被反爬、效率低下等。因此我们又增加了两个章节用来提高爬虫程序的灵活性,分别是:爬虫进阶:包括IP代理,多线程爬虫,图形验证码识别、JS加密解密、动态网页爬虫、字体反爬识别等。Scrapy和分布式爬虫:Scrapy框架、Scrapy-redis组件、分布式爬虫等。通过爬虫进阶的知识点我们能应付大量的反爬网站,而Scrapy框架作为一个专业的爬虫框架,使用他可以快速提高我们编写爬虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式爬虫让多台机器帮助你快速爬取数据。 从基础爬虫到商业化应用爬虫,本套课程满足您的所有需求!【课程服务】 专属付费社群+定期答疑

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值