人生苦短,我用python
虽然还是有15天才放五一的假,
但是我的心早已经在旅游的路上了~
本文源码:点击此处跳转文末名片获取
趁现在,先来用python做一个旅游攻略
知识点:
requests
parsel
csv
第三方库:
requests
parsel
模块安装:
- 按住键盘 win + r, 输入cmd回车
- 打开命令行窗口, 在里面输入 pip install 模块名
开发环境:
python 3.8
+python安装包 安装教程视频
+pycharm 社区版 专业版 及 激活码文末名片获取
代码实现步骤:
1. 向目标网站发送网络请求
2. 获取数据 网页源代码
3. 筛选我们需要的数据 所有的详情页链接
4. 向 每一个详情页 链接发送网络请求
5. 获取数据 网页源代码
6. 提取数据
[出发日期 天数 人均费用 人物 玩法 地点 浏览量...]
7. 保存数据
8. 多页爬取
9. 做一个可视化分析 旅游景点推荐
导入模块
import random
import time
import requests
import parsel
import csv
爬取旅游wang数据
1. 向目标网站发送网络请求
csv_qne = open('去哪儿.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.writer(csv_qne)
csv_writer.writerow(['地点', '短评', '出发时间', '天数','人均费用','人物','玩法','浏览量','详情页'])
for page in range(1, 201):
url = f'https://travel.qunar.com/travelbook/list.htm?page={
page}&order=hot_heat'
2. 获取数据 网页源代码
html_data = response.text
3. 筛选我们需要的数据 所有的详情页链接
selector = parsel.Selector(html_data)
url_list = selector.css('body > div.qn_mainbox > div > div.left_bar > ul > li > h2 > a::attr(href)').getall()
for detail_url in url_list:
detail_id = detail_url.replace('/youji/', '')
detail_url = '这里放网址' + detail_id
4. 向 每一个详情页 链接发送网络请求
response_1 = requests.get(detail_url)
5. 获取数据 网页源代码
data_html_1 = response_1.text
6. 提取数据
selector_1 = parsel.Selector(data_html_1)
title = selector_1.css('.b_crumb_cont *:nth-child(3)::text').get()
comment = selector_1.css('.title.white::text').get()
count = selector_1.css('.view_count::text').get()
date = selector_1.css('#js_mainleft > div.b_foreword > ul > li.f_item.when > p > span.data::text').get()
days = selector_1.css('#js_mainleft > div.b_foreword > ul > li.f_item.howlong > p > span.data::text').get()
money = selector_1.css('#js_mainleft > div.b_foreword > ul > li.f_item.howmuch > p > span.data::text').get()
character = selector_1.css('#js_mainleft > div.b_foreword > ul > li.f_item.who > p > span.data::text').get()
play_list = selector_1.css('#js_mainleft > div.b_foreword > ul > li.f_item.how > p > span.data span::text').getall()
play = ' '.join(play_list)
print(title, comment, date, days, money, character, play, count, detail_url)
csv_writer.writerow([title, comment, date, days, money, character, play, count, detail_url])
time.sleep(random.randint(3, 5))
csv_qne.close()
数据分析代码
import pandas as pd
from pyecharts.commons.utils import JsCode
from pyecharts.charts import *
from pyecharts import options as opts
data = pd.read_csv('去哪儿_数分.csv')
data