xctf攻防世界—Web新手练习区robots单题思路

xctf攻防世界—Web新手练习区robots单题思路

• @邱邱邱自强

前言

随着互联网的发展，互联网界的行为也越来越被重视，那么国际互联网界通行的道德规范是什么呢？它就是Robots协议。

一、Robots协议是什么？

robots协议也叫robots.txt（统一小写）是一种存放于网站根目录下的ASCII编码的文本文件。

二、使用步骤

1.方法

方法一：

通过百度网址，进入百度搜索引擎页面（https://www.baidu.com/）
如何利用百度查看网站的Robots协议

在搜索框里面随便输入你想搜索的信息

如果出现这段文字：“由于该网站的robots.txt文件存在限制指令（限制搜索引擎抓取），系统无法提供