python通过网页API请求抓取列表页数据

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
代码如下:

import requests
import json
import openpyxl
import datetime


def get_response(url, headers):
    res = requests.post(url=url, headers=headers)
    # 把返回字段中斜杠替换成空,把首位引号字母去掉
    res = res.text.replace("\\", "").strip('"')
    return json.loads(res)

def write_excel(file_name, write_list):
    full_excel = openpyxl.Workbook()
    full_sheet = full_excel.active
    for i in range(0, len(write_list)):
        full_sheet.append(write_list[i])
    full_excel.save(file_name)


if __name__ == '__main__':

    # 访问网页信息
    url = "https://sthjt.ah.gov.cn/site/label/8888?isJson=true&cityCode=340400&timeBegin=&timeEnd=&isPage=true&pageIndex=0&pageSize=10&labelName=airQualityDailyNum"
    headers = {"Content-Type": "application/x-www-form-urlencoded"}
    every_page_result_list = []

    # 请求网页信息
    res_data = get_response(url, headers)["data"]

    # 生成列名字列
    col_name_list = list(dict(res_data[0]).keys())
    every_page_result_list.append(col_name_list)


    # 获取值列写入
    for i in range(0,len(res_data)):
        row_list = list(dict(res_data[i]).values())
        timePoint = row_list[-2]
        # 把时间戳转换成日期
        change_date = datetime.datetime.fromtimestamp(int(timePoint) / 1000).strftime("%Y-%m-%d")
        row_list[-2] = change_date

        every_page_result_list.append(row_list)

    #循环写入值
    write_excel(r"D:\test.xlsx", every_page_result_list)



  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值