利用robots.txt和nofollow标签引导蜘蛛抓取2021-07-18

最近有一个新网站上线,因为是一年多的域名,之前网站和新站内容完全不同,网站结构也做了很大的调整,所以带来了很多的404错误抓取页面,当时并没有特别注意这个问题,后来持续更新了2个星期左右,发现快照都没有更新,发了一些简单的外链也没有作用,这个问题就引起了我的注意。下面具体的跟大家分析下自己的一些思路:

1、利用日志分析工具找到404错误抓取页面

日志分析工具利用最常用的光年日志分析工具就可以了,首先利用FTP下载好最近几天的网站LOG日志,当然,想更多的分析,那么多下载一段时间的LOG日志也可以,利用日志分析工具新建任务分析各个阶段的百度蜘蛛抓取情况,这里主要考虑百度抓取情况,因为建立这个分析工作的前提是快照停滞,收录为1。

这里建议大家分为三个时间段来分析:

A、分析最近一天的LOG日志,可以是今天的,但是最好是昨天的,因为昨天的会比较全,今天的你即使是晚上来分析也会有一部分时间没有统计到。

B、分析改版之后的LOG日志,因为这涉及到百度蜘蛛对于网站改版的一些判断,例如我们可以分析百度蜘蛛什么时候开始判断网站已经改版,或者什么时候已经放弃对于旧站URL的抓取等等。

C、改版前后抓取量的对比,分析改版对于百度蜘蛛的抓取量影响多大。

至于日志分析工作后面的分析工作都是一键式的,具体的分析思路有了之后,我们对照着进行分析,就会找到很多平时我们没有注意到的问题,例如下面出来改版造成的404页面,还有不少的页面也是404错误,我并没有意识到,例如下面的wp-login.php页面就是一个最典型的例子:

404错误抓取页面

2、利用百度站长工具中的死链提交工具进行死链提交

百度站长平台LEE团队说:404状态码代表‘Not Found’,spider更新时会认为该页面已失效,此时呢将在索引库中删除,短期内spider再次发现该url不再会抓取。当然,百度的说法只能作参考,因为分析网站日志发现,2个多星期百度蜘蛛还是来抓取这些错误页面,当然,百度对于404错误页面的指导性操作,还是非常有针对性的。

百度站长平台对404页面的看法

特别是死链提交工具中提交死链sitemap,这一条大家可以根据自身的情况进行死链提交,我这边提交后暂时还没有大的效果,因为大家都知道百度的效果展现周期一般都比较长。

3、利用robots.txt和nofollow标签引导蜘蛛抓取

404错误页面一个最大的坏处就是给蜘蛛带来一些错误的抓取,浪费了蜘蛛抓取资源,举个例子,首先我们要达成这样的一个共识:任何一个网站的蜘蛛抓取访问资源都是有限的,小网站自然要少很多,而大网站就要多很多,要想蜘蛛抓取率更高,抓取的更合理,那么一些错误的链接造成的404错误量就要尽可能的减少。

所以我这里针对网站的这些资源的浪费进行了适当的引导,让蜘蛛抓取我想让他抓的一些页面,例如http://www.szhw66.cn/对于/wuchenshi/、/gaoxiao/等类似的栏目页面都进行robots限制抓取,对于网站中一些不参与排名的链接实行nofollow,引导蜘蛛抓取重要页面。下面看看蜘蛛6.3号抓取的情况,首先目录抓取中已经没有了网站中不存在的目录:

蜘蛛对目录的抓取情况

对于蜘蛛访问的404页面,就只剩下一个图片的404错误抓取:

改进后404错误抓取

目前还没有看快照更新和收录增加,当然,理论上这种操作应该会帮助网站更快的获得搜索引擎的认可,后面如果有恢复,会在文章中为大家做一个补充。网站建设中一项重要的工作就是改版,每次改版肯定是往好的方面进行,因为每个阶段的定位不同,我们要网站所表现的企业形象也不同,而且一个好看大气的网站绝对能够在潜在客户心里提升我们公司的地位。但是多数的改版对于我们网站的SEO都会造成一定的影响,这里就需要我们对网站的情况掌握的非常熟悉之后,然后进行有效地控制,减少改版造成的404页面过多情况。