百度快搜在android3.2上抓取失败,百度搜索资源平台检测robots,提示服务器配置有误,错误码301...

在逛某问答平台的时候,有小伙伴提问在百度搜索资源平台将测并更新robots.txt,提示:“您的服务器配置有误,百度暂时无法连接您的服务器,请检查服务器的设置,确保您网站的服务器能被正常访问。错误码:301。”如下:

d36768931461530e4d1663b19dd125a0.png

真的是网站服务器无法访问的原因吗?

afd00d600962ca1d5a89d427301aabc8.png

Step 1. 检查网站是否能正常访问?

清理掉浏览器Cookie后再访问网站,查看其是否正常。或者请不同地区的朋友帮忙查看网站是否访问正常。如果网站能正常访问,则说明服务器是正常工作的。

我检查了一下小伙伴提问的网站,发现其可以正常访问。

Step 2. 检查网站是否有robots.txt?

检查网站下是否有robots协议,在网站域名后面加上/robots.txt,如https://may90.com/robots.txt。

我也检查了小伙伴网站的robots.txt,也是正常存在的。

Step 3. 检查网站是否有确定首选域?

在浏览器中分别输入带www和不带www的域名,看是否会统一跳转到某一固定域名上。因为对搜索引擎来说,www和不带www是两个不同的网站。

我检查了一下小伙伴的网站,分别输入www和不带www的域名,发现没有做301重定向,也就是没有确定首选域。

Step 4. 在百度搜索资源平台检测并更新robots

在对应的首选域名下的百度搜索资源平台检测并更新robots.txt。

在上一步中,我有发现小伙伴的网站是没有做301重定向的,于是我试着在我的非首选域名下检测并更新robots,结果如下:

然后我在我的首选域名下检测并更新robots,结果如下:

ae6187f17b5ff16d9acceb480bd954f4.png

百度搜索资源平台检测并更新robots

以上可以大致看出百度搜索资源平台检测robots,提示服务器配置有误,错误码301的原因了,

1检查网站服务器是否能正常访问;若能正常访问,

2检查网站下的robots.txt文件是否存在;若存在,

3检查网站是否有确定首选域,

不管有没有确定首选域,只要是在非首选域名下的百度搜索资源平台账号下检测并更新robots就会提示服务器配置有误。

正确的方法是先确定网站首选域,然后在首选域对应的百度搜索资源平台账号下检测并更新robots。当然百度搜索资源平台经常出现异常,检测并更新robots时,提示“请求失败,我们已记录此问题并将尽快处理,请刷新页面或稍后再试。”这就另当别论了,是平台自己的问题了。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值