python爬取下拉列表数据_网页爬虫 - python:爬取带有下拉框日期的数据?

问 题

需要用到这方面的数据,单独一页一页的复制了一段时间的数据,发现很是耗时,想从深圳市环保局下载空气质量历史数据。选择日期后,页面出现一个相应的数据表格,每天有24个时间点的。需要将每一天每一个小时的数据都爬下来。页面如下:

网址:http://www.szhec.gov.cn/pages/szepb/kqzl...

麻烦大家

解决方案

使用requests.post请求

上图的URL

hash值在上图的位置。

该图是response

#coding=utf-8

import requests

from bs4 import BeautifulSoup

get_url="http://www.szhec.gov.cn/pages/szepb/kqzl/TGzfwHjKqzlzs.jsp?FLAG=FIRSTFW"#获取hash值

post_url="http://www.szhec.gov.cn/pages/szepb/kqzl/TGzfwHjKqzlzs.jsp" #获取空气质量时报

html=requests.get(get_url)

#使用beautiful解析网页,获取hash值

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
A: 可以使用Python爬虫的工具库`BeautifulSoup`和`requests`来实现该功能。首先,我们需要分析目标网页的HTML结构和相应的请求参数。 假设目标网页为`http://www.example.com`,其中有一个表单,用户可以选择参数后导出一个文件。该表单中有一个下拉框和一个提交按钮。用户选择下拉框中的某个选项后,点击提交按钮,网页就会自动下载一个文件。此时我们需要找到相应的请求URL和参数。 使用浏览器开发者工具(Inspect)可以查看到该请求URL为`http://www.example.com/export_file`,请求方式为`POST`。接下来,我们需要查看该请求的参数,可以在Network中找到该请求,查看其Headers和Form Data。 可以看到,该请求的参数包括`type`和`id`,其中`type`表示用户选择的选项,`id`表示文件的唯一标识符。因此,我们需要在Python代码中构造一个POST请求,将相应的参数传递给该请求,从而实现自动下载文件的功能。 以下是生成该请求的Python代码示例: ``` python import requests url = 'http://www.example.com/export_file' data = { 'type': 'option1', 'id': '123456789' } headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 Edge/16.16299' } response = requests.post(url, headers=headers, data=data) # 保存文件到本地 with open('exported_file.csv', 'wb') as f: f.write(response.content) ``` 其中`url`为请求的URL,`data`为请求的参数,`headers`为请求头,`response`为服务器返回的响应。最后将响应内容保存到本地即可。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值