爬虫爬取数据

本文介绍了一款爬虫工具的使用方法,详细阐述了如何设置爬取节点,包括请求方法、URL、延迟时间、超时时间、代理等参数。此外,还涵盖了自动管理Cookie、自动去重、重试机制以及定义变量、输出节点等功能,帮助用户高效地进行数据抓取和处理。
摘要由CSDN通过智能技术生成

在这里插入图片描述
打开爬取工具页面,使用爬虫工具列表:
开始节点
仅仅是爬虫的起点,所有流程图必须有该节点。
爬取节点
该节点用于请求HTTP/HTTPS页面或接口

请求方法:GET、POST、PUT、DELETE等方法
URL: 请求地址
延迟时间:单位是毫秒,意思是爬取之前延迟一段时间在执行抓取
超时时间:网络请求的超时时间,单位也是毫秒
代理:请求时设置的代理,格式为host:port 如 192.168.1.26:8888
编码格式:用来设置页面的编码格式默认为UTF-8,当解析出现乱码时,可以修改此值
跟随重定向:默认是跟随30x重定向,当不需要此功能时,可以取消勾选
TLS证书验证:此项默认是勾选的,当出现证书一类的异常可以取消勾选此项尝试
自动管理Cookie:请求时自动设置Cookie(自己手动设置的与之前请求的Cookie都会设置进去)
自动去重:勾选时会对url进行去重处理,如果重复则跳过。
重试次数:当请求发生异常或状态码不为200时会进行重试
重试间隔:重试期间的间隔时间(单位为毫秒)
参数:用来设置GET、POST等方法的参数设置
参数名:参数key值
参数值:参数value值
参数描述:仅仅用来描述该项参数(相当于备注/注释)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值