放假去哪里好玩？用python帮你分析_国定假期旅游数据分析python(1)-CSDN博客

本文链接：https://blog.csdn.net/2401_84557821/article/details/138411169

[第三方库]：

requests
parsel

不会安装，直接打开你的cmd输入 pip install+模块名，就可以了

二、案例思路分析:

1.明确今天的目的, 我们需要什么数据
（出发日期天数人均费用人物玩法地点浏览量…）获取这些数据用来进行最后的数据分析，看全国景区数据

2.分析网页确定我们的数据来源
本次获取的网站是一个静态网站

三、代码实现步骤:

向目标网站发送网络请求

https://travel.qunar.com/travelbook/list.htm?order=hot_heat

获取数据网页源代码
筛选我们需要的数据所有的详情页链接
向每一个详情页链接发送网络请求
获取数据网页源代码
提取数据
出发日期天数人均费用人物玩法地点浏览量…
保存数据
多页爬取
做一个可视化分析旅游景点推荐

四、获取数据

import random
import time
import requests     # 发送网络请求
import parsel       # 筛选数据模块
import csv          # 保存数据

csv_qne = open('去哪儿.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.writer(csv_qne)
csv_writer.writerow(['地点', '短评', '出发时间', '天数','人均费用','人物','玩法','浏览量','详情页'])
for page in range(1, 201):
    # 1. 向目标网站发送网络请求
    url = f'https://travel.qunar.com/travelbook/list.htm?page={page}&order=hot\_heat'
    # 写爬虫 没有太大区别
    # post里面需要加一些请求参数
    # 在网站开发当中 get请求不是很安全的请求 有长度限制的
    # post 更加安全 提交表单数据内容 没有长度限制的
    response = requests.get(url)
    # <Response [200]>: 访问成功了, 接下来我们就只需要拿数据就行了
    # 2. 获取数据 网页源代码
    html_data = response.text
    # 3. 筛选我们需要的数据 所有的详情页链接
    selector = parsel.Selector(html_data)
    # css选择器提取网页内容
    # 需要有网页开发基础
    url_list = selector.css('body > div.qn\_mainbox > div > div.left\_bar > ul > li > h2 > a::attr(href)').getall()
    for detail_url in url_list:
        detail_id = detail_url.replace('/youji/', '')
        detail_url = 'https://travel.qunar.com/note/' + detail_id
        # 4. 向 每一个详情页 链接发送网络请求
        response_1 = requests.get(detail_url)
        # 5. 获取数据 网页源代码
        data_html_1 = response_1.text
        # 6. 提取数据
        # 出发日期 天数 人均费用 人物 玩法 地点 浏览量...
        selector_1 = parsel.Selector(data_html_1)
        # ::text 提取标签里面文本内容 \*所有
        # 标题
        title = selector_1.css('.b\_crumb\_cont \*:nth-child(3)::text').get()
        # 短评
        comment = selector_1.css('.title.white::text').get()
        # 浏览量
        count = selector_1.css('.view\_count::text').get()
        # 出发日期
        date = selector_1.css('#js\_mainleft > div.b\_foreword > ul > li.f\_item.when > p > span.data::text').get()
        # 天数
        days = selector_1.css('#js\_mainleft > div.b\_foreword > ul > li.f\_item.howlong > p > span.data::text').get()
        # 人均费用
        money = selector_1.css('#js\_mainleft > div.b\_foreword > ul > li.f\_item.howmuch > p > span.data::text').get()
        # 人物
        character = selector_1.css('#js\_mainleft > div.b\_foreword > ul > li.f\_item.who > p > span.data::text').get()
        # 玩法
        play_list = selector_1.css('#js\_mainleft > div.b\_foreword > ul > li.f\_item.how > p > span.data span::text').getall()
        play = ' '.join(play_list)
        print(title, comment, date, days, money, character, play, count, detail_url)
        csv_writer.writerow([title, comment, date, days, money, character, play, count, detail_url])
        time.sleep(random.randint(3, 5))
csv_qne.close()

获取的数据如下：
在这里插入图片描述