屏蔽wget下载网站内容

最新推荐文章于 2022-11-30 09:40:50 发布

iteye_5904

最新推荐文章于 2022-11-30 09:40:50 发布

阅读量852

点赞数

分类专栏： Ubuntu / Mac / Github / Aptana / Nginx / Shell / Linux 文章标签： php

本文链接：https://blog.csdn.net/iteye_5904/article/details/82601546

版权

Ubuntu / Mac / Github / Aptana / Nginx / Shell / Linux 专栏收录该内容

330 篇文章 1 订阅

订阅专栏

经发现，虽然wget遵循robots.txt规则，但是那个还是可以绕过去，现在方法如下：

1. 屏蔽下载任何文件

.htaccess

SetEnvIfNoCase User-Agent "^wget" bad_bot
<Limit GET POST>
   Order Allow,Deny
   Allow from all
   Deny from env=bad_bot
</Limit>

2. 屏蔽下载部分文件

.htaccess

SetEnvIfNoCase User-Agent "^Wget" bad_bot
SetEnvIfNoCase User-Agent "^Wget/1.5.3" bad_bot
SetEnvIfNoCase User-Agent "^Wget/1.6" bad_bot
<Files ~ "\.(html|pdf|mp3|zip|rar|exe|gif|jpe?g|png|php|jsp) $">
Order Allow,Deny
Allow from all
Deny from env=bad_bot
</files>

来源：http://www.webhostingtalk.com/showthread.php?t=437549