屏蔽搜索引擎机器人的抓取

如果你的网站涉及个人隐私或者机密性非公开的网页,怎样告诉禁止搜索引擎收录抓取,下面侯庆龙说下以下方法,希望对不想被搜索引擎收录抓取网站有所帮助。

第一种、robots.txt方法

搜索引擎默认的遵守robots.txt协议,创建robots.txt文本文件放至网站根目录下,编辑代码如下:

User-agent:*
Disallow:

通过代码,即可告诉搜索引擎不要抓取采取收录本网站。

第二种、网页代码

在网站首页代码<head>与</head>之间,加入<metaname="robots"content="noarchive">代码,此标记禁止搜索引擎抓取网站并显示网页快照。

如何禁止百度搜索引擎收录抓取网页

1、编辑robots.txt文件,设计标记为:

User-agent:Baiduspider
Disallow:/

2、在网站首页代码<head>与</head>之间,加入<metaname="Baiduspider"content="noarchive">即可禁止百度搜索引擎抓取网站并显示网页快照。

3、联系百度管理人员,信箱地址为:webmaster@baidu.com,用网站联系人信箱发电邮,如实说明删除网页快照的情况,经百度核实后,网页停止收录抓取。

4、登陆百度自己的“百度快照”帖吧和“百度投诉”帖吧,发个帖子,表明删除网页收录网站快照的原因,当百度管理人员,看到会给予处理。

如何禁止Google搜索引擎收录抓取网页

1、编辑robots.txt文件,设计标记为:

User-agent:googlebot
Disallow:/

2、在网站首页代码<head>与</head>之间,加入<metaname="googlebot"content="noarchive">即可禁止谷歌搜索引擎抓取网站并显示网页快照。

转载地址: http://www.cnblogs.com/patf/articles/3137394.html
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值