Python爬取13个旅游城市，告诉你五一大家最爱去哪玩？

今年五一放了四天假，很多人不再只是选择周边游，因为时间充裕，选择了稍微远一点的景区，甚至出国游。各个景点成了人山人海，拥挤的人群，甚至去卫生间都要排队半天，那一刻我突然有点理解灭霸的行为了。

今天，通过分析去哪儿网部分城市门票售卖情况，简单的分析一下哪些景点比较受欢迎。等下次假期可以做个参考。

用到的Python模块

BeautifulSoup、requests、pymongo、pylab

方法

通过请求https://piao.qunar.com/ticket/list.htm?keyword=北京  ，获取北京地区热门景区信息，再通过BeautifulSoup去分析提取出我们需要的信息。

这里为了偷懒只爬取了前4页的景点信息，每页有15个景点。因为去哪儿并没有什么反爬措施，所以直接请求就可以了。

这里只是随机选择了13个热门城市：北京, 上海, 成都, 三亚, 广州, 重庆, 深圳, 西安, 杭州, 厦门, 武汉, 大连, 苏州。

并将爬取的数据存到了MongoDB数据库 。

 

爬虫部分完整代码如下

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52

import requests from bs4 import BeautifulSoup from pymongo import MongoClient    class QuNaEr():     def __init__(self, keyword, page=1):         self.keyword = keyword         self.page = page        def qne_spider(self):         url = 'https://piao.qunar.com/ticket/list.htm?keyword=%s&region=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page)         response = requests.get(url)         response.encoding = 'utf-8'         text = response.text         bs_obj = BeautifulSoup(text, 'html.parser')            arr = bs_obj.find('div', {'class': 'result_list'}).contents         for i in arr:             info = i.attrs             # 景区名称             name = info.get('data-sight-name')             # 地址             address = info.get('data-address')             # 近期售票数             count = info.get('data-sale-count')             # 经纬度             point = info.get('data-point')                # 起始价格             price = i.find('span', {'class': 'sight_item_price'})             price = price.find_all('em')             price = price[0].text                conn = MongoClient('localhost', port=27017)             db = conn.QuNaEr # 库             table = db.qunaer_51 # 表                table.insert_one({                 'name'      :   name,                 'address'   :   address,                 'count'     :   int(count),                 'point'     :   point,                 'price'     :   float(price),                 'city'      :   self.keyword             })    if __name__ == '__main__':     citys = ['北京', '上海', '成都', '三亚', '广州', '重庆', '深圳', '西安', '杭州', '厦门', '武汉', '大连', '苏州']     for i in citys:         for page in range(1, 5):             qne = QuNaEr(i, page=page)             qne.qne_spider()

 

效果图如下

 

有了数据，我们就可以分析出自己想要的东西了

 

最受欢迎的15个景区

由图可以看出，在选择的13个城市中，最热门的景区为上海的迪士尼乐园

代码如下

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29

from pymongo import MongoClient # 设置字体，不然无法显示中文 from pylab import *    mpl.rcParams['font.sans-serif'] = ['SimHei']    conn = MongoClient('localhost', port=27017) db = conn.QuNaEr # 库 table = db.qunaer_51 # 表    result = table.find().sort([('count', -1)]).limit(15) # x,y轴数据 x_arr = []  # 景区名称 y_arr = []  # 销量 for i in result:     x_arr.append(i['name'])     y_arr.append(i['count'])    """ 去哪儿月销量排行榜 """ plt.bar(x_arr, y_arr, color='rgb')  # 指定color，不然所有的柱体都会是一个颜色 plt.gcf().autofmt_xdate() # 旋转x轴，避免重叠 plt.xlabel(u'景点名称')  # x轴描述信息 plt.ylabel(u'月销量')  # y轴描述信息 plt.title(u'拉钩景点月销量统计表')  # 指定图表描述信息 plt.ylim(0, 4000)  # 指定Y轴的高度 plt.savefig('去哪儿月销售量排行榜')  # 保存为图片 plt.show()