反向 DNS 查找识别Baiduspider ,GoogleBot

最新推荐文章于 2024-01-16 10:13:06 发布

weixin_33939380

最新推荐文章于 2024-01-16 10:13:06 发布

阅读量257

点赞数

文章标签：运维 java 爬虫

原文链接：https://my.oschina.net/afengzxf/blog/3023807

版权

2019独角兽企业重金招聘Python工程师标准>>>

Google:使用 host 命令对您日志中访问服务器的 IP 地址运行反向 DNS 查找。:https://support.google.com/webmasters/answer/80553

baidu:

上周百度站长平台接到某站长求助，表示误封禁了Baiduspider的IP，询问是否有办法获得Baiduspider的所有IP，打算放入白名单加以保护，防止再次误封。在此要告诉各位站长，Baiduspider的IP池是不断变动的，我们无法提供IP全集。

除此之外，之前还有站长发来质疑说Baiduspider光顾过于频繁，已超越服务器承受能力。而百度站长平台追查发现，Baiduspider对该站点的抓取并无异常，那只spider极有可能是个李鬼。

那么，站长该如何通过IP来判断此spider是不是来自百度搜索引擎的呢？

可以通过DNS反查方式来解决这个问题。根据平台不同验证方法不同，如linux/windows/os三种平台下的验证方法分别如下：

1、在linux平台下，您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名，非 *.baidu.com 或 *.baidu.jp 即为冒充。

2、在windows平台或者IBM OS/2平台下，您可以使用nslookup ip命令反解ip来判断是否来自Baiduspider的抓取。打开命令处理器输入nslookup xxx.xxx.xxx.xxx（IP地址）就能解析ip，来判断是否来自Baiduspider的抓取，Baiduspider的hostname以*.baidu.com 或*.baidu.jp 的格式命名，非 *.baidu.com 或 *.baidu.jp 即为冒充。

3、在mac os平台下，您可以使用dig 命令反解ip来判断是否来自Baiduspider的抓取。打开命令处理器输入dig xxx.xxx.xxx.xxx（IP地址）就能解析ip，来判断是否来自Baiduspider的抓取，Baiduspider的hostname以 *.baidu.com 或*.baidu.jp 的格式命名，非 *.baidu.com 或 *.baidu.jp 即为冒充。

如果大家对如何识别Baiduspider还有别的疑问，大家可以到[学院同学汇][学习讨论] 《如何识别Baiduspider》讨论帖中发表自己的看法，我们的工作人员会关注这里并与大家进行探讨。

转载于:https://my.oschina.net/afengzxf/blog/3023807