学习笔记 | python网络爬虫 反爬虫简介

01 反爬虫简介

网络爬虫的目的和手段
1. 通过User-Agent校验反爬
  • 浏览器在发送请求的时候,会附带一部分浏览器及当前系统环境的参数给服务器,服务器会通过User-Agent的值来区分不同的浏览器。
    在这里插入图片描述
2. 通过访问频率反爬

在这里插入图片描述

3. 通过验证码校验反爬
  • 有部分网站不论访问频率如何,一定要来访者输入验证码才能继续操作。
  • 例如,12306网站,不管是登陆还是购票,全部需要验证验证码,与访问频率无关。
4. 通过变换网页结果反爬

在这里插入图片描述

5. 通过账号权限反爬

在这里插入图片描述

爬取策略制定

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值