python利用session来模拟登录进行爬虫抓取

很多网站内容在抓取时需要进行登录,不登录则无法获取到内容,这时就需要session来模拟进行登录的过程,有人会问使用cookie不行吗,当然不行,cookie只能在本地环境下使用,也就是你浏览器登录之后抓取cookie写入,然后再在本地运行脚本才能使用,当你放到服务器之后这个cookie就相当于失效的。

session模拟登录

header = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'}
    data = {
        "email": "",
        "passwd": "",
    }
    # 通过session模拟登录,每次请求带着session
    url1 = 'https:///auth/login'
    sess = requests.Session()
    f = sess.post(url1, data=data, headers=header)

上面代码可以看到 通过header定义了访问所需的ua标示

然后通过data定义登录需要填写的信息。

url1定义了登录地址(因为某些问题隐藏,可以在我开源的teelebot-invitecode的项目里查看)

sess来定义 reuests模块的Session方法

最后通过f = sess.post(url1, data=data, headers=header)来进行post提交数据,这时requests会自动对你的cookie进行操作,后面的抓取页面等操作直接使用sess.get进行操作即可,注意用的什么变量post的就要使用什么变量进行get操作,因为cookie只会绑定在这个变量里面

1

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值