作者: 刘亦菲的老公
PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取
爬取了携程网上关于全国大概16000条景点数据和美团网上五个城市的大概5000条酒店数据,然后导出为**.csv**表格形式方便用
pandas.read_csv()
来读取其中的数据。
景点数据
原始数据中,景点数据长这样
由于数据按省份分为三十多个.csv文件,并且其中还有不需要的列,用以下代码来读取(其他省份同样,只列出上海的)
import pandas as pd
上海 = pd.read_csv(‘上海.csv’, engine=‘python’,
usecols=[‘省份’, ‘spot-info’, ‘spot-info1’, ‘spot-info2’, ‘价格’, ‘已售’, ‘desc’, ‘spot-comment’,
‘spot-label1’])
再将全部数据组合在一起
China_scenic = pd.concat([上海, 云南, 内蒙古, 北京, 台湾, 吉林, 四川, 天津,
宁夏, 安徽, 山东, 山西, 广东, 广西, 新疆, 江苏,
河北, 河南, 浙江, 海南, 湖北, 湖南, 澳门, 甘肃,
福建, 西藏, 贵州, 辽宁, 重庆, 陕西, 青海, 香港, 黑龙江], sort=True,
ignore_index=True).reset_index().drop(columns=‘index’)
接下来删除那些重复和没有评分的地点。
删除重复地点
China_scenic = China_scenic.drop_duplicates(subset=‘spot-info’)
删除没有评分的地点
China_scenic = China_scenic[China_scenic[‘spot-comment’].notnull()]
再将评分转换为好评率,将没有景区等级的景点标为无等级
def grade_change(i):
i = i.replace(‘分’, ‘’)
return float(i) / 5
将评分转换为好评率
China_scenic[‘spot-comment’] = China_scenic[‘spot-comment’].apply(grade_change)
将没有景区等级的景区标为无等级
China_scenic[‘spot-info2’] = China_scenic[‘spot-info2’].fillna(‘无等级’)
由于有许多景点是不需要购票进入的,这里再将所有景点分成两部分以便之后的操作
选取免费景点
China_scenic_free = China_scenic[China_scenic[‘价格’].isna()].reset_index().drop(columns=‘index’)
选取收费景点
China_scenic_charge = China_scenic[China_scenic[‘价格’].notnull()].reset_index().drop(columns=‘index’)
接下来把消费景点的销售量转换为具体数值,把免费景点的销售量和价格这两列删除
def sold_change(i):
if ‘万+’ in i:
i = i.replace(‘.’, ‘’)
i = i.replace(‘万+’, ‘000’)
return int(i)
else:
return int(i)
将已售数据转换为整形
China_scenic_charge[‘已售’] = China_scenic_charge[‘已售’].apply(sold_change)
删除两列
China_scenic_free = China_scenic_free.drop(columns=‘已售’).drop(columns=‘价格’)
酒店数据
酒店数据,这里仅仅爬取了我选取的五个城市的酒店数据(为了机器学习的例子仅选了五个城市)
接下来读取数据,并且把价格转换为具体数值,把销量转换为具体数值(对每个城市的操作都相同,只展示一个城市的操作)
def price_change(i):
i = i.replace(‘起’, ‘’)
return int(i)
def sold_change(i):
if ‘+消费’ in i:
i = i.replace(‘+消费’, ‘’)
return int(i)
else:
i = i.replace(‘消费’, ‘’)
return int(i)
Zhangjiajie_Hotel = pd.read_csv(‘张家界酒店.csv’,
engine=‘python’,
usecols=[‘标题’, ‘poi-address’, ‘poi-type’, ‘poi-price’, ‘poi-buy-num’, ‘service-icons1’,‘service-icons3’, ‘service-icons5’]).dropna()
Zhangjiajie_Hotel[‘地址’] = ‘张家界’
Zhangjiajie_Hotel[‘poi-price’] = Changsha_Hotel[‘poi-price’].apply(price_change)
Zhangjiajie_Hotel[‘poi-buy-num’] = Changsha_Hotel[‘poi-buy-num’].apply(sold_change)
景点数据
景区等级评价
scenic_level_comment = China_scenic.groupby(‘spot-info2’).mean().sort_values(‘spot-comment’, ascending=False)
# 收费景点
销量前五十的景点
China_scenic_50 = China_scenic_charge.sort_values(‘已售’, ascending=False).head(50).reset_index().drop(columns=‘index’)
平均门票最贵的省份
China_scenic_exp = China_scenic_charge.groupby(‘省份’).mean().sort_values(‘价格’, ascending=False)[‘价格’]
最受欢迎的省份
Hot_province = China_scenic_charge.groupby(‘省份’).sum().sort_values(‘已售’, ascending=False)[‘已售’]
最受欢迎的付费景点类型
Hot_kind_charge = China_scenic_charge.groupby(‘spot-label1’).mean().sort_values(‘已售’, ascending=False).head(10)[‘已售’]
# 免费景点
China_scenic_free = China_scenic_free.drop(columns=‘已售’).drop(columns=‘价格’)
评分最高的五十个免费景点
free_scenic_50 = China_scenic_free.sort_values(‘spot-comment’, ascending=False).head(50)
评分最高的的免费景点类型
Hot_kind_free = China_scenic_free.groupby([‘spot-label1’]).mean().sort_values(‘spot-comment’, ascending=False).head(15)
再将这些分析出的数据用.to_csv()导出,用PPT画图(自己的数据可视化做得很丑。。。。)
。。。)
酒店数据
将五个城市酒店数据组合,再进行分析如下
All_Hotel = pd.concat([Changsha_Hotel,
Zhangjiajie_Hotel,
Hangzhou_Hotel,
Suzhou_Hotel,
Changzhou_Hotel],
axis=0, sort=False).dropna().reset_index().drop(columns=‘index’)
kind_price = All_Hotel.groupby([‘地址’, ‘poi-type’]).mean()[‘poi-price’]
把‘kind_price’导出画图
假设去某个景点旅游,需要考虑出行方式、酒店住宿、门票价格等因素,由此可以大概计算出一个数值来表示该趟旅游“值不值 ”(爬取到的数据中,关于免费景点只有评分一条可以评定其价值,不太具有真实意义,所以不取免费景点)
从景点数据随机选取一个,酒店数据随机选取一个,出行方式随机选取一种。(由此来组合成一行,模拟成一个人选择某种方式去了某地游玩了某个景点又选择了某个酒店)
由于数据的不完整,所以这里主要从“钱花得最少,去的景点评分最高”这样的角度来判断“值不值”。
“值不值”的恒定标准为:
代数 意义
PS:这里本应该每个值附上自己的权重,由于时间关系,我仅将他们(0,1)规格化了,这样就是1:1:1:1的关系,以后有时间在调整其权重问题。
再由Score值来分类:
先从全国景点数据中,找到五个例子城市的景点数据。
(方法五个都一样,这里只展示以张家界为例)
def find_zhangjiajie(i):
if ‘张家界’ in i:
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注Python)
存中…(img-fyjy6S2l-1712919647027)]
[外链图片转存中…(img-pt7NYQx0-1712919647027)]
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注Python)