nginx在站点的设置,配置文件中 server{ } 中添加
#禁止爬虫工具的抓取
if ($http_user_agent ~* "Bytespider|FISPIDER|YisouSpider") {
return 403;
}
Appache:
在伪静态里设置 这里以thinkphp为例!
<IfModule mod_rewrite.c>
RewriteEngine on
RewriteCond %{REQUEST_FILENAME} !-d
RewriteCond %{REQUEST_FILENAME} !-f
RewriteRule ^(.*)$ index.php [L,E=PATH_INFO:$1]
#禁止爬虫工具的抓取
RewriteCond %{HTTP_USER_AGENT} "^.*FISPIDER.*|.*YisouSpider.*$" [NC]
RewriteRule ^(.*)$ - [R=404,L]
</IfModule>
配置完不用重启,就能生效!