记录本人自学爬虫过程中的一些收获。如有错误的地方,欢迎指正。
###爬虫(一)
1,爬虫是什么
爬虫就是通过编写程序,模拟浏览器上网,然后让其去互联网上抓取数据的过程。
2,爬虫的价值
实际应用,就业
3,爬虫在使用场景中的分类
–通用爬虫:抓取系统重要的组成部分。抓取的是一整张页面的数据。
–聚焦爬虫:是建立在通用爬虫的基础之上。抓取的是页面中特定报告的局部内容。
–增量式爬虫:检测网站中数据更新的情况。只会爬取网站中最新更新出来的数据。
4,反爬机制
门户网站,可以通过制定相应的策略或者技术手段,防止爬虫程序进行网站数据的爬取。
5,反反爬策略
爬虫程序可以通过制定相关的策略或者技术手段,破解门户网站中具备的反爬机制,从而可以获取门户网站中相关的数据
6,robots.txt协议
君子协议。规定了网站中哪些数据可以被爬虫爬取,哪些数据不可以被爬取
python爬虫
最新推荐文章于 2024-07-29 14:37:54 发布