来自google/百度的爬虫请求 user-agent

最新推荐文章于 2024-06-13 16:44:00 发布

weixin_34402090

最新推荐文章于 2024-06-13 16:44:00 发布

阅读量943

点赞数

文章标签：爬虫 python 移动开发

原文链接：https://my.oschina.net/u/2931319/blog/3029215

版权

2019独角兽企业重金招聘Python工程师标准>>>

分别收到了百度和谷歌的爬虫请求，都是get请求，下面是他们请求的user-agent

百度

服务器地址在北京 {city:"北京市", province:"北京市"}

Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

谷歌

服务器地址在芒廷维尤 {city:"芒廷维尤", province:"加利福尼亚州"}

Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2272.96 Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

转载于:https://my.oschina.net/u/2931319/blog/3029215