9.13总结-利用浏览器扩展程序Instant Data Scraper爬虫初体验

一、第一次爬虫

7c8662a7cd3b441884849dde17098e39.png

操作步骤如下:

  • 第一次爬虫需要添加浏览器的扩展程序Instant Data Scraper
  • 打开一个你想要获取数据的网站,双击程序图标打开对话框
  • 再点击按钮,接着点击网页中的下一页,告诉程序下一页的按钮位置
  • 点击start crawling,开始爬虫,最后的结果可点击对应按钮进行下载

二、查看网站的请求头信息

bafaeb5b121a48f6b6006c058d931ce7.png

 操作步骤如下:

  • 打开一个你想要查看的网站,在空白处单击右键,点击检查,出现新的对话框,此时对话框里是空白的
  • 再次在网页空白处单击右键刷新,找到head,即可查看

三、查看网站的robots协议

c6f1ed621cc141108b786c79073fa4ec.png

 操作步骤如下:

  • 打开任意一个你想要查看的网站,在网址链接里,输入/robots.txt,即可查看robots协议
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值