数据分析之去哪儿酒店

之前发了一篇爬取去哪儿自由行的数据后,有一个读者在后台问到我怎么爬取去哪儿酒店的数据。当时简单看了下,觉得难度不大。就跟他讲了下思路。因为当时爬取自由行的网站选取的是移动端。为了能让读者学习到更多的知识,我们今天选取了去哪儿的电脑端来进行爬取。其实爬虫的思路都是一样的,无非就是先获取网页信息,然后再解析。解析之后就提取所要的数据。如果要对数据要进一步的分析的话。还需要对数据进行清洗,建模等一系列操作。今天作者给大家带来的就是去哪儿酒店酒店信息的获取,并进行数据清洗,分析。


1. 准备工作

本篇案例主要涉及到的Python的库有Selenium,pymongo库,以及解析库pyquery。清洗库pandas库和matplotlib库,并且安装好了Chrome浏览器和配置好了ChromeDriver。


2. 页面分析

首先访问去哪儿网址:"https://www.qunar.com/",然后选择酒店这一栏。我们可以看到目前的链接为:"http://hotel.qunar.com/"。这个就是我们要访问的域名。如下图所示。

我们点击页面的目的地输入城市,然后点击搜索即可出现酒店列表,即我们可以用Selenium来控制浏览器输入城市名,然后点击。我们进入到酒店页面。如下图所示。

如果有更多的业务需求,我们可以选择菜单上的酒店类型,实现思路一样。在此我们默认为"酒店搜索"这一栏。并且选择按评分来筛选酒店。我们随机选择一个酒店名,右击打开开发者工具。如下图所示。

我们经过分析可知每个酒店的内容是在id为"jxContentPanel"中,并且在其下class为"b_result_box js_list_block"中可以看到每个酒店的详细信息。如下图所示。

我们就可以pyquery解析库来解析网页获取我们所需要的信息了,到此网页的解析已经完成。下面我们用代码来实现整个抓取的过程。


3. 实战演练


3.1 获取目的地城市列表

这里我们可以使用我们之前抓取自由行数据时抓取到的目的地城市列表,实现如下:

3.2 获取去哪儿页面详情页

我们已经有目的地城市列表了,所以我们在在访问去哪儿网址时,只用输入所获得的城市就可以进行搜索了。然后就可以获取酒店页面了。 并且我们要获得多个页面的酒店。所以也要实现翻页的方法。实现如下:

3.3解析酒店列表

我们已经获得了酒店列表页面,接下来用解析库pyquery进行解析,就可以获取我们想要的数据了。实现如下:


3.4保存到数据库和csv文件


3.5运行代码



3.6结果查看


MongoDB数据库结果:


CSV文件:


3.7数据清洗

利用pandas库和matplotlib库进行数据清洗和简单分析,实现如下:

结果如下 :


3.8 项目代码

https://github.com/NGUWQ/Python3Spider/tree/master/dataanalysis



4. 结语

此项目主要功能是爬取去哪儿酒店,如果你要爬取去哪儿的其它业务,思路也是一样的。


If it works for you.Please,star.

对爬虫,数据分析,算法感兴趣的朋友们,可以加微信公众号 TWcoding,我们一起玩转Python



转载于:https://juejin.im/post/5b6bcd155188257f0b584e1d

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
该资源内项目源码是个人的课程设计、毕业设计,代码都测试ok,都是运行成功后才上传资源,答辩评审平均分达到96分,放心下载使用! ## 项目备注 1、该资源内项目代码都经过测试运行成功,功能ok的情况下才上传的,请放心下载使用! 2、本项目适合计算机相关专业(如计科、人工智能、通信工程、自动化、电子信息等)的在校学生、老师或者企业员工下载学习,也适合小白学习进阶,当然也可作为毕设项目、课程设计、作业、项目初期立项演示等。 3、如果基础还行,也可在此代码基础上进行修改,以实现其他功能,也可用于毕设、课设、作业等。 下载后请首先打开README.md文件(如有),仅供学习参考, 切勿用于商业用途。 该资源内项目源码是个人的课程设计,代码都测试ok,都是运行成功后才上传资源,答辩评审平均分达到96分,放心下载使用! ## 项目备注 1、该资源内项目代码都经过测试运行成功,功能ok的情况下才上传的,请放心下载使用! 2、本项目适合计算机相关专业(如计科、人工智能、通信工程、自动化、电子信息等)的在校学生、老师或者企业员工下载学习,也适合小白学习进阶,当然也可作为毕设项目、课程设计、作业、项目初期立项演示等。 3、如果基础还行,也可在此代码基础上进行修改,以实现其他功能,也可用于毕设、课设、作业等。 下载后请首先打开README.md文件(如有),仅供学习参考, 切勿用于商业用途。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值