在eclipse通过爬虫获取指定地区美团酒店的酒店名字

简单介绍下流程,通过访问美团连接,得到相应的数据,对数据进行处理即可

以北京的美团酒店为例http://hotel.meituan.com/beijing

通过f12查看到酒店的名字绑定的class是poi-title-wrapper



所以我们可以直接通过jsoup选择节点

	@Test
	public void testName11() throws Exception {
		Document document = Jsoup.connect("http://hotel.meituan.com/beijing").get();
		Elements select = document.select(".poi-title-wrapper");
		for (Element element : select) {
			System.out.println(element.text());
		}
	}

运行后得到结果

1齐源宾馆(北京南站店)
27天连锁酒店(北京南站地铁站店)
3昌浩商务酒店(北京南站店) 舒适型
4布丁酒店(北京国贸潘家园地铁站店)
5泉谷酒店 高档型
6暖窝北漂青年公寓
7青年之家酒店
8易佰连锁酒店(交大东路店)
9齐鑫宾馆(北京南站店)
10旅居酒店(北京和平里店) 高档型
11九十九连锁宾馆
12北京西柚旅舍(国展店)
137天连锁酒店(北京新街口地铁站店)
14速8酒店(北京潘家园华威南路店)
15中工大厦 高档型
16布丁酒店(北京国贸永安里地铁站店)
17逸旅阳光快捷酒店
18华通国际青年旅舍(三里屯店)
19青年酒店(西四店)(原金榜缘酒店)
20广州大厦 高档型

我们现在爬第二页的酒店名 点击第二页发现网址没有发生跳转,判断使用的AJAX.因此我们需要把ajax中提交的网址提出去.

通过network我们发现提交的网址


Request URL:https://ihotel.meituan.com/hbsearch/HotelSearch?utm_medium=pc&version_name=999.9&cateId=20&attr_28=129&uuid=61E1B8AD1D61784182F0D300BC63428F3B0EA432DE4CAF30421A27E6D877DD10%401526390515608&cityId=1&offset=40&limit=20&startDay=20180515&endDay=20180515&q=&sort=defaults

仔细观看网址,发现使用了分页便签,点击网址进去是一个json字符串

现在我们的目标就变成了在json字符串中获取酒店的名字了

在下一篇日志中我讲怎么用eclipse通过json获取指定的数据


  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
爬虫(Web Crawler)是一种自动化程序,用于从互联网上收集信息。其主要功能是访问网页、提取数据并存储,以便后续分析或展示。爬虫通常由搜索引擎、数据挖掘工具、监测系统等应用于网络数据抓取的场景。 爬虫的工作流程包括以下几个关键步骤: URL收集: 爬虫从一个或多个初始URL开始,递归或迭代地发现新的URL,构建一个URL队列。这些URL可以通过链接分析、站点地图、搜索引擎等方式获取。 请求网页爬虫使用HTTP或其他协议向目标URL发起请求,获取网页的HTML内容。这通常通过HTTP请求库实现,如Python的Requests库。 解析内容: 爬虫获取的HTML进行解析,提取有用的信息。常用的解析工具有正则表达式、XPath、Beautiful Soup等。这些工具帮助爬虫定位和提取目标数据,如文本、图片、链接等。 数据存储: 爬虫将提取的数据存储到数据库、文件或其他存储介质,以备后续分析或展示。常用的存储形式包括关系型数据库、NoSQL数据库、JSON文件等。 遵守规则: 为避免对网站造成过大负担或触发反爬虫机制,爬虫需要遵守网站的robots.txt协议,限制访问频率和深度,并模拟人类访问行为,如设置User-Agent。 反爬虫应对: 由于爬虫的存在,一些网站采取了反爬虫措施,如验证码、IP封锁等。爬虫工程师需要设计相应的策略来应对这些挑战。 爬虫在各个领域都有广泛的应用,包括搜索引擎索引、数据挖掘、价格监测、新闻聚合等。然而,使用爬虫需要遵守法律和伦理规范,尊重网站的使用政策,并确保对被访问网站的服务器负责。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值