百度蜘蛛最新UA及各大搜索引擎蜘蛛爬虫UA汇总

了解各大搜索引擎蜘蛛爬虫的UA,对我们进行某些程序编写十分有用,例如网页判断客户端来源时,UA是常用的标准之一。

-- 模拟蜘蛛访问百度 查看请求响应结果
curl --head --user-agent "Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)" --request GET "http://www.baidu.com/"

下面是返回结果

HTTP/1.1 200 OK
Content-Length: 2443
Content-Type: text/html
Server: bfe
Date: Tue, 12 Mar 2024 08:40:30 GMT

下面收集了各大搜索引擎的蜘蛛爬虫UA,以便需要时查阅。

百度

"Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)"

百度图片
"Baiduspider-image+(+http://www.baidu.com/search/spider.htm)"
百度最新UA如下:
PC:
Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
移动:
Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
360搜索
"Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);"
360网站安全检测

"360spider (http://webscan.360.cn)"
Google
"Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)"
Google图片搜索
"Googlebot-Image/1.0"
Adwords移动网络

"AdsBot-Google-Mobile (+http://www.google.com/mobile/adsbot.html) Mozilla (iPhone; U; CPU iPhone OS 3 0 like Mac OS X) AppleWebKit (KHTML, like Gecko) Mobile Safari"
微软 bing,必应

"Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)"
腾讯搜搜

"Sosospider+(+http://help.soso.com/webspider.htm)"
搜搜图片

"Sosoimagespider+(+http://help.soso.com/soso-image-spider.htm)"
雅虎英文

"Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)"
雅虎中国

"Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)"
搜狗图片

"http://pic.sogou.com" "Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)"
搜狗

"Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)"
网易有道

"Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/; )"
瑞典 Speedy Spider

"Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) Speedy Spider (http://www.entireweb.com/about/search_tech/speedy_spider/)"
俄罗斯 yandex

"Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)"
宜搜 EasouSpider

"Mozilla/5.0 (compatible; EasouSpider; +http://www.easou.com/search/spider.html)"
华为赛门铁克蜘蛛

"HuaweiSymantecSpider/1.0+DSE-support@huaweisymantec.com+(compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR ; http://www.huaweisymantec.com/cn/IRL/spider)"
华为赛门铁克科技有限公司网页信誉分析系统的一个页面爬取程序,其作用是用于爬取互联网网页并进行信誉分析,从而检查该网站上的是否含有恶意代码。

七牛镜像蜘蛛

qiniu-imgstg-spider-1.0
监控宝

"Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; JianKongBao Monitor 1.1)"
DNSPod监控

DNSPod-Monitor/2.0
俄罗斯 LinkpadBot

Mozilla/5.0 (compatible; LinkpadBot/1.06; +http://www.linkpad.ru)
英国 MJ12bot

"Mozilla/5.0 (compatible; MJ12bot/v1.4.0; http://www.majestic12.co.uk/bot.php?+)"

  • 10
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
爬虫是一种自动化程序,能够模拟人类在网络上的浏览行为,从Web页面中提取数据并进行分析和存储。而SharePoint是一种由Microsoft开发的企业级协作平台,用于存储、组织、共享和访问各种企业数据和文档。 爬虫可以用于从SharePoint平台上提取数据。通过模拟用户登录SharePoint、浏览页面、点击链接等操作,爬虫可以获取到需要的数据,并进行存储和处理。这样可以自动化地从SharePoint上抓取大量的数据,节省了手动复制粘贴的时间和人力成本。 在爬虫中,常用的技术包括网络请求、HTML解析和数据提取。爬虫首先发送网络请求到SharePoint服务器,获取到相应的页面内容。然后通过HTML解析技术,解析页面的结构,找到需要的数据所在的位置。最后,将提取到的数据存储到数据库或者其他文件中,或者进行进一步的分析和处理。 在实际应用中,爬虫可以用于很多领域的数据提取和分析。比如,在企业中,可以使用爬虫从SharePoint平台上提取员工的信息、项目的进度、销售数据等。在学术研究中,可以使用爬虫从SharePoint平台上获取论文的信息、学术会议的日程安排等。 需要注意的是,使用爬虫需要遵守相关法律法规和网站的使用规定。在进行爬虫操作时,应尊重网站的规则,避免对服务器造成过大的负担,同时保护用户的隐私信息。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值