web安全：X老师上课讲了Robots协议，小宁同学却上课打了瞌睡，赶紧来教教小宁Robots协议是什么吧

题目描述：

robots协议

robots协议也叫robots.txt（统一小写）是一种存放于网站根目录下的ASCII编码的文本文件，它通常告诉网络搜索引擎的漫游器（又称网络蜘蛛），此网站中的哪些内容是不应被搜索引擎的漫游器获取的，哪些是可以被漫游器获取的。因为一些系统中的URL是大小写敏感的，所以robots.txt的文件名应统一为小写。robots.txt应放置于网站的根目录下。如果想单独定义搜索引擎的漫游器访问子目录时的行为，那么可以将自定的设置合并到根目录下的robots.txt，或者使用robots元数据（Metadata，又称元数据）。
robots协议并不是一个规范，而只是约定俗成的，所以并不能保证网站的隐私。

任务进行时

dirsearch

下载dirsearch

dirsearch的使用

查找任务中的robots.txt

python dirsearch.py -u http://159.138.137.79:63764 -e *

访问http://159.138.137.79:63764/robots.txt

什么是dirsearch

dirsearch是一个基于python的命令行工具，旨在暴力扫描页面结构，包括网页中的目录和文件。
-u 指定url
-e 指定网站语言
-w 可以加上自己的字典（带上路径）
-r 递归跑（查到一个目录后，在目录后在重复跑，很慢，不建议用）
–random-agents 使用代理（使用的代理目录在uesr-agents.txt中，可以自己添加）

warning ：未经授权，不得转载
声明：本文旨在为学习网络信息安全的同学提供指引帮助，维护网络空间的安全
有问题的小伙伴请在下方留言，喜欢就点个赞吧；关注我，带你一起写bug
知乎：叄贰壹
简书：带只拖鞋去流浪