robots协议怎么查看以及解释

学习爬虫首先就要知道什么东西是不能爬的。所以先来了解一下robots协议吧。

robots协议在哪看呢？
直接在目标网站后面加上/robots.txt就能看见了，以csdn为例
访问https://www.csdn.net/robots.txt，得到下面的信息：

User-agent: *
Disallow: /scripts
Disallow: /public
Disallow: /css/
Disallow: /images/
Disallow: /content/
Disallow: /ui/
Disallow: /js/
Disallow: /scripts/
Disallow: /article_preview.html*
Disallow: /tag/
Disallow: /?
Disallow: /link/
Sitemap: https://www.csdn.net/sitemap-aggpage-index.xml
Sitemap: https://www.csdn.net/article/sitemap.txt

User-agent: * 代表所有爬虫都要遵守下面的规则
disallow：就是不允许爬取的页面
有的还会有Allow
其他网站可能还会有各种有趣的协议，自己去看看吧！