适合小白的Python爬虫入门——轻松获取疫情数据

最新推荐文章于 2024-05-12 18:12:38 发布
最新推荐文章于 2024-05-12 18:12:38 发布
阅读量532 收藏 8
点赞数 1
分类专栏： python网络爬虫
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45901519/article/details/110295813
版权

黑马程序员视频笔记（自用）.

目录

一、基础知识

1、爬虫简介

1.1 网络爬虫与浏览器的区别

如下图所示，是浏览器工作的原理：发送请求——>服务器响应——>返回响应的数据，进行渲染。
在这里插入图片描述
而网络爬虫的工作原理是：发送请求——>服务器响应——>返回响应的数据。
在这里插入图片描述

总之：
在这里插入图片描述

1.2 网络爬虫的定义

在这里插入图片描述

1.3 网络爬虫的作用

在这里插入图片描述

那怎么请求数据呢？下面接着看：

2、requests请求库

2.1 requests介绍

在这里插入图片描述

2.2 requests安装

打开终端，输入下面命令：

pip install requests -i https://pypi.tuna.tsinghua.edu.cn/simple

2.3 requests的基本使用

在这里插入图片描述
看一个请求百度首页的例子：

# 1.导入模块
import requests

# 2.发送请求，获取响应
response = requests.get('http://www.baidu.com')
print(response)  # <Response [200]>表示成功

# 3.获取响应数据
# print(response.encoding)  # 查看默认使用的是什么编码：ISO-8859-1

##方式一获取响应
response.encoding = 'utf-8'  # 改变编码方式
print(response.text)

##方式二获取响应（推荐）
print(response.content.decode())  # decode()默认使用utf-8解码
# print(response.content.decode(encoding='gbk'))  # 改为gbk编码方式

注意：
在这里插入图片描述

现在数据请求到了，那怎么从请求的数据中提取想要的数据呢？接着看：

3、Beautiful Soup解析库

3.1 Beautiful Soup介绍

在这里插入图片描述

3.2 Beautiful Soup安装

Beautiful Soup3停止更新了，所以这里安装Beautiful Soup4，按如下命令：

pip install bs4 -i https://pypi.tuna.tsinghua.edu.cn/simple

还需要安装xml解析库：

pip install lxml -i https://pypi.tuna.tsinghua.edu.cn/simple

3.3 Beautiful Soup对象的介绍与创建

（1）介绍：
在这里插入图片描述

（2）创建：

# 1.导入模块
from bs4 import BeautifulSoup

# 2.创建BeautifulSoup对象
soup = BeautifulSoup('<html>data</html>', 'lxml')  # 第一个参数：html的开始标签、数据、结束标签；第二个参数：指明要用的解析
print(soup)  # BeautifulSoup会自动的修正html

3.4 Beautiful Soup对象的find方法

在这里插入图片描述
html文档树如下图所示：
在这里插入图片描述
接下来看看find方法的API：
在这里插入图片描述
在这里插入图片描述
接下来看看例子：

（1）根据标签名查找：

需求：获取文档中的title标签和a标签。

在这里插入图片描述
代码：

# 1.导入模块
from bs4 import BeautifulSoup

# 2.准备文档字符串
html = """<html>
    <head>
        <title>The Dormouse's story</title>
    </head> 
    <body>
        <p class="title">
            <b>The Dormouse's story</b>
        </p>
        <p class="story">Once upon a time there were three little sisters; and their names were
            <a href="http://example.com/elsie" class="sister" id="link1">Elsie</a>.
            <a hrft="http://example.com/lacie" class="sister" id="link2">Lacie</a>and
            <a href="http://example.com/tillie" class="sister" id="link3">tillie</a>;
            and they lived at the bottom of a well.
        </p>
        <p class="story">...</p>

 """

# 3.创建BeautifulSoup对象
soup = BeautifulSoup(html, 'lxml')# 第一个参数：html的开始标签、数据、结束标签；第二个参数：指明要用的解析

# 4.查找title标签
title = soup.find('title')
print(title)

# 5.查找a标签
a = soup.find('a')
print(a)  # 只是第一个

## 查找所有的a标签
a_s = soup.find_all('a')  # 把所有的a标签存入列表，再返回
print(a_s)

（2）根据属性查找：

需求：获取文档中的id为link1的标签

代码：

# 1.导入模块
from bs4 import BeautifulSoup

# 2.准备文档字符串
html = """<html>
    <head>
        <title>The Dormouse's story</title>
    </head> 
    <body>
        <p class="title">
            <b>The Dormouse's story</b>
        </p>
        <p class="story">Once upon a time there were three little sisters; and their names were
            <a href="http://example.com/elsie" class="sister" id= "link1">Elsie</a>.
            <a hrft="http://example.com/lacie" class="sister" id="link2">Lacie</a>and
            <a href="http://example.com/tillie" class="sister" id="link3">tillie</a>;
            and they lived at the bottom of a well.
        </p>
        <p class="story">...</p>

 """

# 3.创建BeautifulSoup对象
soup = BeautifulSoup(html, 'lxml')

# 4.获取文档中的id为link1的标签
## 方式一：通过命名参数指定
a = soup.find(id="link1")
print(a)

# 方式二：使用attrs来指定属性字典，进行查找
a = soup.find(attrs={'id': 'link1'})
print(a)

（3）根据文本查找(使用不多)：

需求：获取文档中文本为Elsie的标签文本

代码：

# 1.导入模块
from bs4 import BeautifulSoup

# 2.准备文档字符串
html = """<html>
    <head>
        <title>The Dormouse's story</title>
    </head> 
    <body>
        <p class="title">
            <b>The Dormouse's story</b>
        </p>
        <p class="story">Once upon a time there were three little sisters; and their names were
            <a href="http://example.com/elsie" class="sister" id= "link1">Elsie</a>.
            <a hrft="http://example.com/lacie" class="sister" id="link2">Lacie</a>and
            <a href="http://example.com/tillie" class="sister" id="link3">tillie</a>;
            and they lived at the bottom of a well.
        </p>
        <p class="story">...</p>

 """

# 3.创建BeautifulSoup对象
soup = BeautifulSoup(html, 'lxml')

# 4.查找文档中文本为Elsie的标签文本
text = soup.find(text='Elsie')
print(text)

现在我们通过find方法获取到了文档中的标签，其实像上面获取的是Tag对象。接下来介绍一下Tag对象：

在这里插入图片描述
在这里插入图片描述
例子：

soup = BeautifulSoup(html, 'lxml')
a = soup.find(id="link1")  # 这个a就是Tag对象

# Tag对象
print(type(a))  # <class 'bs4.element.Tag'>
print('标签名', a.name)
print('标签所有属性', a.attrs)
print('标签文本内容', a.text)

3.5 案例：从疫情首页提取各国最新的疫情数据

在这里插入图片描述
代码：

# 1.导入相关模块
import requests
from bs4 import BeautifulSoup

# 2.发送请求，获取疫情首页内容
response = requests.get('https://ncov.dxy.cn/ncovh5/view/pneumonia')
home_page = response.content.decode()  # 默认utf-8编码
print(home_page)  # 打印看是否请求成功

# 3.使用BeautifulSoup提取疫情数据
soup = BeautifulSoup(home_page, 'html5lib')  # 创建BeautifulSoup对象
script = soup.find(id="getListByCountryTypeService2true")  # 根据属性查找：方式一：通过命名参数指定
# script = soup.find(attrs={'id':'getListByCountryTypeService2true'})  # 根据属性查找：方式二：使用attrs来指定属性字典，进行查找
print(script)
text = script.text  # 接收这个标签里的文本内容
print(text)

注意：我使用lxml解析器的时候，用text获取的内容为空，我给换成html5lib就解决了。
安装： pip install html5lib

现在想要的数据找到了，但是如何能准确的匹配呢？下面来看：

4、正则表达式

4.1正则表达式的概念与作用

（1）概念：

在这里插入图片描述

（2）作用：

在这里插入图片描述

4.2 正则表达式常见语法

在这里插入图片描述
在这里插入图片描述
例子：

# 导入正则模块
import re

# 字符模块
rs = re.findall('abc', 'abc')
rs = re.findall('a.c', 'abc')
rs = re.findall('a\.c', 'a.c')  # \为转义字符
rs = re.findall('a[bc]d', 'acd')  # []就是个字符集，匹配到里面的任意一个都行

# 预定义的字符集
rs = re.findall('\d', '123')
rs = re.findall('\w', 'Az123_我爱中国')  # \w匹配的是大小写字母、数字、下划线、中文

# 数量词
rs = re.findall('a*', 'adc')  # a*就表示出现0，1，2...n次a,
rs = re.findall('a+', 'abc')  # a+表示出现1,2...n次a
rs = re.findall('a?', 'abc')  # a?表示a出现0次或1次
rs = re.findall('a\d{2}', 'a123')  # \d{2}表示\d出现两次

print(rs)

总结：

在这里插入图片描述

4.3 re.findall()方法

（1）API:

在这里插入图片描述

（2)findalla()的特点

在这里插入图片描述
在这里插入图片描述
例子：

import re

# 1.findall方法，返回匹配的结果列表
rs = re.findall('\d+', 'chuan13zhi24')
# print(rs)

# 2.findall方法中，flag参数的作用
rs = re.findall('a.bc', 'a\nbc')  # 这个.不能匹配\n
rs = re.findall('a.bc', 'a\nbc', re.DOTALL)  # 这个就可以匹配\n了
rs = re.findall('a.bc', 'a\nbc', re.S)  # 作用同上
# print(rs)

# findall方法中，分组的使用
rs = re.findall('a.+bc', 'a\nbc', re.DOTALL)  #
print(rs)  # ['a\nbc']

rs = re.findall('a(.+)bc', 'a\nbc', re.DOTALL)  # 只返回和小括号里面匹配的内容，其他的字符负责定位
print(rs)  # ['\n']

4.4 正则表达式中r原串的使用

作用：
在这里插入图片描述
例子：

import re

# 1.不使用r原串时，与到转义字符怎么做
rs = re.findall('a\nbc', 'a\nbc')
print(rs)  # ['a\nbc']

rs = re.findall('a\\bc', 'a\\bc')  # 遇到转义字符不能匹配
print(rs)  # []

rs = re.findall('a\\\\bc', 'a\\bc')  # 这个是解决的办法，使用4个\便可解决（繁琐）
print(rs)  # ['a\\bc']

#2.r原串在正则中就可以消除转义字符带来的影响
rs = re.findall(r'a\\nbc', 'a\\nbc')
print(rs)  # ['a\\nbc']

# 扩展：可以解决写正则的时候，不符合PEP8规范的问题
rs = re.findall(r'\d', 'a123')
print(rs)  # ['1', '2', '3']

4.5 提取最新的疫情数据的json字符串

在这里插入图片描述

代码：

# 1.导入相关模块
import requests
from bs4 import BeautifulSoup
import re

# 2.发送请求，获取疫情首页内容
response = requests.get('https://ncov.dxy.cn/ncovh5/view/pneumonia')
home_page = response.content.decode()  # 默认utf-8编码
# print(home_page)  # 打印看是否请求成功

# 3.使用BeautifulSoup提取疫情数据
soup = BeautifulSoup(home_page, 'html5lib')  # 创建BeautifulSoup对象
script = soup.find(id="getListByCountryTypeService2true")  # 根据属性查找：方式一：通过命名参数指定
# script = soup.find(attrs={'id':'getListByCountryTypeService2true'})  # 根据属性查找：方式二：使用attrs来指定属性字典，进行查找
# print(script)

text = script.text  # 接收这个标签里的文本内容
# print(text)

# 4.使用正则表达式，提取json字符串
json_str = re.findall(r'\[.+\]', text)[0]  # []有特殊用法，所以要转义
print(json_str)

4.6 总结

在这里插入图片描述

现在json格式的字符串取出来了，那怎么转成python的类型，进而存入文件呢？下面来看：

5、json模块

5.1 json模块介绍

在这里插入图片描述
下面是json格式的例子：
在这里插入图片描述

5.2 json转换为python

在这里插入图片描述
代码例子：

import json

# 1.把JSON字符串转换为PYTHON数据
# 1.1 准备JSON字符串
json_str = """[{"provinceName":"美国", "currentConfirmedCount":1179041, "confirmedCount":1643499},
{"provinceName":"英国", "currentConfirmedCount":222227, "confirmedCount":259559}]"""
# 1.2 把JSON字符串转换为PYTHON数据
rs = json.loads(json_str)
print(rs)
print(type(rs))  # <class 'list'>
print(type(rs[0]))  # <class 'dict'>

# 2.把JSON格式文件，转换为PYTHON类型的数据
# 2.1 构建指向该文件的文件对象
with open('data/test.json') as fp:
    # 2.2 加载该文件对象，转换为PYTHON数据
    python_list = json.load(fp)
    print(python_list)
    print(type(python_list))  # <class 'list'>
    print(type(python_list[0]))  # <class 'dict'>

5.3 python转换为json

（1） python类型数据转换为json字符串：

在这里插入图片描述

（2）python类型数据以json格式写入文件：

在这里插入图片描述
代码：

import json

# 1.把python转换为json字符串
# 1.1 python类型的数据
json_str = """[{"provinceName":"美国", "currentConfirmedCount":1179041, "confirmedCount":1643499},
{"provinceName":"英国", "currentConfirmedCount":222227, "confirmedCount":259559}]"""
rs = json.loads(json_str)  # rs便是python类型的数据
# 1.2把python转换为json字符串
json_str = json.dumps(rs, ensure_ascii=False)
print(json_str)

# 2.把python以json格式存储到文件中
# 2.1 构建要写入的文件对象
with open('data/test1.json', 'w') as fp:
    # 2.2 把python以json格式存储到 test1.json文件中
    json.dump(rs, fp, ensure_ascii=False)

5.4 解析最新的疫情数据的json字符串

在这里插入图片描述
代码：

# 1.导入相关模块
import requests
from bs4 import BeautifulSoup
import re
import json

# 2.发送请求，获取疫情首页内容
response = requests.get('https://ncov.dxy.cn/ncovh5/view/pneumonia')
home_page = response.content.decode()  # 默认utf-8编码
# print(home_page)  # 打印看是否请求成功

# 3.使用BeautifulSoup提取疫情数据
soup = BeautifulSoup(home_page, 'html5lib')  # 创建BeautifulSoup对象
script = soup.find(id="getListByCountryTypeService2true")  # 根据属性查找：方式一：通过命名参数指定
# script = soup.find(attrs={'id':'getListByCountryTypeService2true'})  # 根据属性查找：方式二：使用attrs来指定属性字典，进行查找
# print(script)

text = script.text  # 接收这个标签里的文本内容
# print(text)

# 4.使用正则表达式，提取json字符串
json_str = re.findall(r'\[.+\]', text)[0]  # []有特殊用法，所以要转义
# print(json_str)

# 5.把json字符串转换为python类型的数据
last_day_corona_virus = json.loads(json_str)
print(last_day_corona_virus)

5.5 总结

在这里插入图片描述

二、疫情爬虫项目

在这里插入图片描述

1、采集最近一日世界各国疫情数据

在这里插入图片描述
代码：

import requests
from bs4 import BeautifulSoup
import re
import json

# 1.发送请求，获取疫情首页
response = requests.get('https://ncov.dxy.cn/ncovh5/view/pneumonia')
home_page = response.content.decode()

# 2.从疫情首页，提取最近一日各国疫情数据
soup = BeautifulSoup(home_page, 'html5lib')
script = soup.find(id='getListByCountryTypeService2true')
text = script.text
# print(text)

# 3.从疫情数据中获取json格式的字符串
json_str = re.findall('\[.+\]', text)[0]
# print(json_str)

# 4.把json格式的字符串转换为python类型
last_corona_virus = json.loads(json_str)
# print(last_corona_virus)

# 5.以json格式保存，最近一日各国疫情数据
with open('data/last_corona_virus.json', 'w', encoding="utf-8") as fp:
    json.dump(last_corona_virus, fp, ensure_ascii=False)

2、采集从01月23日以来的世界各国疫情数据

在这里插入图片描述
在这里插入图片描述

代码：

import requests
from bs4 import BeautifulSoup
import re
import json
from tqdm import tqdm



class CoronaVirusSpider(object):
    def __init__(self):
        self.home_url = 'https://ncov.dxy.cn/ncovh5/view/pneumonia'

    def get_content_from_url(self, url):
        """
        根据URL，获取响应内容的字符串数据
        :param url:请求的url
        :return:响应内容的字符串
        """
        response = requests.get(url)
        return response.content.decode()

    def parse_home_page(self, home_page):
        """
        解析首页内容，获取解析后的python数据
        :param home_page:首页的内容
        :return:解析后的python数据
        """
        # 2.从疫情首页，提取最近一日各国疫情数据
        soup = BeautifulSoup(home_page, 'html5lib')
        script = soup.find(id='getListByCountryTypeService2true')
        text = script.text
        # print(text)

        # 3.从疫情数据中获取json格式的字符串
        json_str = re.findall('\[.+\]', text)[0]
        # print(json_str)

        # 4.把json格式的字符串转换为python类型
        data = json.loads(json_str)
        # print(last_corona_virus)
        return data

    def save(self, data, path):
        # 5.以json格式保存，最近一日各国疫情数据
        with open(path, 'w', encoding="utf-8") as fp:
            json.dump(data, fp, ensure_ascii=False)

    def crawl_last_day_corona_virus(self):
        """
        采集最近一天的各国疫情信息
        :return:
        """
        # 1.发送请求，获取首页内容
        home_page = self.get_content_from_url(self.home_url)
        # 2.解析首页内容，获取最近一天的疫情数据
        last_day_corona_virus = self.parse_home_page(home_page)
        # 3.保存数据
        self.save(last_day_corona_virus, 'data/last_corona_virus.json')

    def crawl_corona_virus(self):
        """
        采集1月23日以来各国疫情数据
        :return:
        """
        # 1.加载各国疫情数据
        with open('data/last_corona_virus.json', 'r', encoding='gb18030', errors='ignore') as fp:
            last_day_corona_virus = json.load(fp)
        # print(last_day_corona_virus)

        # 定义列表，用于存储各国1月23日以来的疫情数据
        corona_virus = []
        # 2.遍历各国疫情数据，获取统计的URL
        for country in tqdm(last_day_corona_virus, '采集1月23日以来的各国疫情数据'):  # tqdm为进度条显示
            # 3.发送请求，获取各国1月23号至今的json数据
            statistics_data_url = country['statisticsData']
            statistics_data_json_str = self.get_content_from_url(statistics_data_url)
            # 4.把json数据转换为python类型数据，添加列表
            statistics_data = json.loads(statistics_data_json_str)['data']
            # print(statistics_data)
            for one_day in statistics_data:
                one_day['provinceName'] = country['provinceName']
                one_day['countryShortCode'] = country['countryShortCode']
            # print(statistics_data)
            corona_virus.extend(statistics_data)
        # 5.把列表以json格式保存为文件
        self.save(corona_virus, 'data/corona_virus.json')

    def run(self):
        # self.crawl_last_day_corona_virus()
        self.crawl_corona_virus()


if __name__ == "__main__":
    spider = CoronaVirusSpider()
    spider.run()

注：通过疫情首页，获取到的是最近一日的数据，在这个数据中，每一个国家有一个url，是所有时间的数据，所以通过这个url才能获取所有时间的数据。

3、采集最近一日全国各省疫情数据

在这里插入图片描述

代码：

import requests
from bs4 import BeautifulSoup
import re
import json
from tqdm import tqdm



class CoronaVirusSpider(object):
    def __init__(self):
        self.home_url = 'https://ncov.dxy.cn/ncovh5/view/pneumonia'

    def get_content_from_url(self, url):
        """
        根据URL，获取响应内容的字符串数据
        :param url:请求的url
        :return:响应内容的字符串
        """
        response = requests.get(url)
        return response.content.decode()

    def parse_home_page(self, home_page, tag_id):
        """
        解析首页内容，获取解析后的python数据
        :param home_page:首页的内容
        :return:解析后的python数据
        """
        # 2.从疫情首页，提取最近一日各国疫情数据
        soup = BeautifulSoup(home_page, 'html5lib')
        script = soup.find(id=tag_id)
        text = script.text
        # print(text)

        # 3.从疫情数据中获取json格式的字符串
        json_str = re.findall('\[.+\]', text)[0]
        # print(json_str)

        # 4.把json格式的字符串转换为python类型
        data = json.loads(json_str)
        # print(last_corona_virus)
        return data

    def save(self, data, path):
        # 5.以json格式保存，最近一日各国疫情数据
        with open(path, 'w', encoding="utf-8") as fp:
            json.dump(data, fp, ensure_ascii=False)

    def crawl_last_day_corona_virus(self):
        """
        采集最近一天的各国疫情信息
        :return:
        """
        # 1.发送请求，获取首页内容
        home_page = self.get_content_from_url(self.home_url)
        # 2.解析首页内容，获取最近一天的疫情数据
        last_day_corona_virus = self.parse_home_page(home_page, tag_id='getListByCountryTypeService2true')
        # 3.保存数据
        self.save(last_day_corona_virus, 'data/last_corona_virus.json')

    def crawl_corona_virus(self):
        """
        采集1月23日以来各国疫情数据
        :return:
        """
        # 1.加载各国疫情数据
        with open('data/last_corona_virus.json', 'r', encoding='gb18030', errors='ignore') as fp:
            last_day_corona_virus = json.load(fp)
        # print(last_day_corona_virus)

        # 定义列表，用于存储各国1月23日以来的疫情数据
        corona_virus = []
        # 2.遍历各国疫情数据，获取统计的URL
        for country in tqdm(last_day_corona_virus, '采集1月23日以来的各国疫情数据'):  # tqdm为进度条显示
            # 3.发送请求，获取各国1月23号至今的json数据
            statistics_data_url = country['statisticsData']
            statistics_data_json_str = self.get_content_from_url(statistics_data_url)
            # 4.把json数据转换为python类型数据，添加列表
            statistics_data = json.loads(statistics_data_json_str)['data']
            # print(statistics_data)
            for one_day in statistics_data:
                one_day['provinceName'] = country['provinceName']
                one_day['countryShortCode'] = country['countryShortCode']
            # print(statistics_data)
            corona_virus.extend(statistics_data)
        # 5.把列表以json格式保存为文件
        self.save(corona_virus, 'data/corona_virus.json')

    def crawl_last_day_corona_virus_of_china(self):
        """
        采集最近一日各省疫情数据
        :return:
        """
        # 1.发送请求，获取疫情首页
        home_page = self.get_content_from_url(self.home_url)
        # 2.解析疫情首页，获取最近一日各省疫情数据
        last_day_corona_virus_of_china = self.parse_home_page(home_page, tag_id='getAreaStat')

        # 3.保存疫情数据
        self.save(last_day_corona_virus_of_china, 'data/last_day_corona_virus_of_china.json')

    def run(self):
        self.crawl_last_day_corona_virus()
        # self.crawl_corona_virus()
        self.crawl_last_day_corona_virus_of_china()


if __name__ == "__main__":
    spider = CoronaVirusSpider()
    spider.run()

4、采集从01月22日以来的中国各省疫情数据

在这里插入图片描述

代码：

import requests
from bs4 import BeautifulSoup
import re
import json
from tqdm import tqdm



class CoronaVirusSpider(object):
    def __init__(self):
        self.home_url = 'https://ncov.dxy.cn/ncovh5/view/pneumonia'

    def get_content_from_url(self, url):
        """
        根据URL，获取响应内容的字符串数据
        :param url:请求的url
        :return:响应内容的字符串
        """
        response = requests.get(url)
        return response.content.decode()

    def parse_home_page(self, home_page, tag_id):
        """
        解析首页内容，获取解析后的python数据
        :param home_page:首页的内容
        :return:解析后的python数据
        """
        # 2.从疫情首页，提取最近一日各国疫情数据
        soup = BeautifulSoup(home_page, 'html5lib')
        script = soup.find(id=tag_id)
        text = script.text
        # print(text)

        # 3.从疫情数据中获取json格式的字符串
        json_str = re.findall('\[.+\]', text)[0]
        # print(json_str)

        # 4.把json格式的字符串转换为python类型
        data = json.loads(json_str)
        # print(last_corona_virus)
        return data

    def parse_corona_virus(self, last_day_corona_virus_of_china, desc):
        # 定义列表，用于存储各国1月23日以来的疫情数据
        corona_virus = []
        # 2.遍历最近一日全国疫情信息，获取各省疫情URL
        for country in tqdm(last_day_corona_virus_of_china, desc):  # tqdm为进度条显示
            # 3.发送请求，过去各省疫情json字符串
            statistics_data_url = country['statisticsData']
            statistics_data_json_str = self.get_content_from_url(statistics_data_url)
            # 4.解析各省疫情json字符串，并添加列表
            statistics_data = json.loads(statistics_data_json_str)['data']
            # print(statistics_data)
            for one_day in statistics_data:
                one_day['provinceName'] = country['provinceName']
                if country.get('countryShortCode'):
                    one_day['countryShortCode'] = country['countryShortCode']

            # print(statistics_data)
            corona_virus.extend(statistics_data)
        return corona_virus

    def load(self, path):
        """
        根据路径加载数据
        """
        with open(path, 'r', encoding='gb18030', errors='ignore') as fp:
            data = json.load(fp)
        return data

    def save(self, data, path):
        # 5.以json格式保存，最近一日各国疫情数据
        with open(path, 'w', encoding="utf-8") as fp:
            json.dump(data, fp, ensure_ascii=False)

    def crawl_last_day_corona_virus(self):
        """
        采集最近一天的各国疫情信息
        :return:
        """
        # 1.发送请求，获取首页内容
        home_page = self.get_content_from_url(self.home_url)
        # 2.解析首页内容，获取最近一天的疫情数据
        last_day_corona_virus = self.parse_home_page(home_page, tag_id='getListByCountryTypeService2true')
        # 3.保存数据
        self.save(last_day_corona_virus, 'data/last_corona_virus.json')

    def crawl_corona_virus(self):
        """
        采集1月23日以来各国疫情数据
        :return:
        """
        # 1.加载各国疫情数据
        last_day_corona_virus = self.load('data/last_corona_virus.json')
        # print(last_day_corona_virus)

        # 定义列表，用于存储各国1月23日以来的疫情数据
        corona_virus = self.parse_corona_virus(last_day_corona_virus, '采集1月23日以来的各国疫情数据')
        # 5.把列表以json格式保存为文件
        self.save(corona_virus, 'data/corona_virus.json')

    def crawl_last_day_corona_virus_of_china(self):
        """
        采集最近一日各省疫情数据
        :return:
        """
        # 1.发送请求，获取疫情首页
        home_page = self.get_content_from_url(self.home_url)
        # 2.解析疫情首页，获取最近一日各省疫情数据
        last_day_corona_virus_of_china = self.parse_home_page(home_page, tag_id='getAreaStat')

        # 3.保存疫情数据
        self.save(last_day_corona_virus_of_china, 'data/last_day_corona_virus_of_china.json')

    def crawl_corona_virus_of_china(self):
        """
        采集从1月22日以来的全国各省的疫情数据
        :return:
        """
        # 1.加载最近一日全国疫情信息
        last_day_corona_virus_of_china = self.load('data/last_day_corona_virus_of_china.json')

        corona_virus = self.parse_corona_virus(last_day_corona_virus_of_china, '采集1月23日以来的各省疫情数据')

        # 5.以json格式保存疫情信息
        self.save(corona_virus, 'data/corona_virus_of_china.json')

    def run(self):
        # self.crawl_last_day_corona_virus()
        self.crawl_corona_virus()
        # self.crawl_last_day_corona_virus_of_china()
        self.crawl_corona_virus_of_china()


if __name__ == "__main__":
    spider = CoronaVirusSpider()
    spider.run()

5、总结

在这里插入图片描述

Ma Sizhou
关注
  • 1
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
Python爬虫学习分享(疫情数据爬取＋可视化)
Leo8283的博客
04-05 1万+
“The Website is the API." “未来的所有信息都是通过website（网络）提供的。” 这次重大疫情，每时每刻数据都有可能变化，这篇博文将为大家讲解如何爬取实时疫情数据，并且分析数据，作出数据可视化的效果。 疫情网站有两种，一种是类似丁香园（https://ncov.dxy.cn/ncovh5/view/pneumonia）这种疫情数据可以通过网页右键检查源代码获取。 另一种...
疫情数据爬取
kiritobryant的博客
11-01 1143
国内各省份现有确诊、累计确诊、死亡、治愈； 国内总数现有确诊、累计确诊、死亡、治愈、输入； 国内近段时间每天的确诊数、疑似数、累计确诊数、现有确诊数、累计治愈数、累计死亡数 全球各国确诊、死亡、治愈； 全球总数确诊、死亡、治愈；
Python 疫情数据可视化（爬虫+数据可视化）（Jupyter环境）
我乃技术小白，欢迎大神交流
05-10 3万+
Python 疫情数据可视化（爬虫+数据可视化）（Jupyter环境）
Python获取疫情数据, 并做数据可视化展示_python爬虫3000条可视化(1)
最新发布
m0_60635224的博客
05-12 868
这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。最近我才对这些路线做了一下新的更新，知识体系更全面了。包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。
每日一练：Python爬虫爬取全国新冠肺炎疫情数据实例详解，使用beautifulsoup4库实现
小蓝枣的博客
03-01 7361
Python 爬虫篇 - 爬取全国新冠肺炎疫情数据实例详解 效果图展示 第一章：疫情信息的下载与数据提取 ① 爬取丁香园页面数据到本地 ② json 字符串正则表达式分析 ③ 提取数据中的 json 字符串 第二章：疫情信息数据分析 ① 提取 json 字符串里的省份疫情数据并显示 ② 显示查询省份的城市疫情数据
Python爬虫实战练习（疫情数据获取）
FOR.GET
06-13 4554
一、国内疫情数据的爬取1.1 获取响应1.2 使用xpath解析数据1.2.1 分析xpath解析的数据1.2.2 再一次分析数据1.3 json转化xpath数据类型1.4 逐个获取我们需要的数据，并保存至Excel中1.4.1 创建工作簿1.4.2 创建工作表1.4.3 写入数据至表中1.4.4 数据保存1.5 代码汇总二、国外疫情数据的爬取2.1 代码汇总三、结果 一、国内疫情数据的爬取 1.1 获取响应 # 导入requests库 import requests url = "https://vo.
Python爬虫入门——Requests库
12-23
学习爬虫之前呢，最好要对HTTP协议有了解，我前面有写过几篇关于HTTP协议的文章，建议读者阅读一下，对爬虫帮助很大。 1. requests 库的几个主要方法 方法 说明 requests.request（） 构造一个网页请求，支撑...
Python爬虫入门——信息组织与提取方法（2）
01-20
1. 信息提取的一般方法   指从标记的信息中提取关注的内容。上一章提到的信息标记有三种形式：XML、JSON、YAML。 一般意义上的几种方法: 方法一：完整的解析信息的标记形式，再提取关键信息。...
Python爬虫，轻松获取网络数据的利器！
04-09
python爬虫在当今信息爆炸的时代，如何从海量的网络数据中获取有价值的信息，成为了一个重要的课题。Python爬虫作为一种自动获取网络数据的方法，可以帮助我们快速、高效地从网络上获取所需的信息。 Python爬虫是一...
疫情数据爬取展示
S..hao
02-12 5666
程序代码 import time import json import requests from datetime import datetime import pandas as pd import numpy as np #########数据抓取 def catch_cityinfo(): url = 'https://view.inews.qq.com/g2/getOnsInfo...
2021-05-13
vivid0610的博客
05-13 1198
一、使用正则表达式提取json字符串 json_str = re.findall(r'\[.+\]', text)[0] print(json_str) 使用正则表达式就应加一个字符“r”。要提取的是网站信息中的json语句，如图所示 就是图中中括号里的内容，所以搜索条件就是“ [] ”；但由于中括号在正则表达式中有特殊意义，所以要用到一个反转字符“ \ ”；“ [0] ”表示字符串里的第一个元素 可以得到 二、json模块 json模块是Python自带的模块, 用于json与python数据之间的
爬虫学习日志11--获取疫情数据并保存--封装
taiyuezyh的博客
02-05 860
前言 这篇文章主要讲述如何封装疫情爬虫函数，并且获取多日的疫情数据 一、代码 #跟着视频学习的代码，记录分享一下 import requests from bs4 import BeautifulSoup import re import json class CoronaVirusSpider(object): def _init_(self): self.home_url='https://ncov.dxy.cn/ncovh5/view/pneumonia'
python 爬虫抓取网页数据导出excel_如何用excel实现网页爬虫
weixin_39578867的博客
11-25 3009
当我们在工作学习中需要获取一些网站的数据但是不能直接下载时，我们就需要对网页数据进行爬虫处理，对数据要求比较高的时候我们经常会用到Python来处理，但是只是一些简单数据时我们就可以使用excel哦！1、 新建一个excel表格，点击标题栏中的数据-自网站2、 在出现的弹框中输入我们想要提取信息的网站，我们以2019年世界人口排名数据为例（http://www.chamiji.com/countr...
Python爬虫入门，180分钟轻松获取疫情数据
黑马程序员官方博客
09-04 1097
对实现疫情爬虫项目使用到每一个模块逐一讲解, 每个模块都伴随一个案例; 最后水到渠成, 轻松完成疫情爬虫项目。 180分钟学会爬虫入门: 1. 了解什么是爬虫 2. 掌握requests库的使用 3. 掌握BeautifulSoup解析库提取数据 4. 掌握正则表达式提取数据 5. 掌握是用json模块处理json格式数据 6. 掌握疫情爬虫项目的实现 7. 了解疫情数据可视化 课程亮点： 1，课程由浅到深，由原理到实践，适合零基础入门学习。 2，结合实际案例，培养解决实际问.
使用Python获取最新疫情数据，制作可视化动态地图，实时展示各地情况
人生苦短， 还不用Python？
04-29 1万+
愿世界再无病痛，盼疫情早日结束序言效果展示准备工作代码展示 序言 疫情降临转眼已经第三年了，时间过得真快，愿疫情早点结束，世界不再多灾多难。 最近疫情稍微好转一些了，所以咱们获取一下最新的疫情数据，做个可视化地图看看。 效果展示 获取到的数据咱们保存到表格 可视化地图 颜色是跟网上的一样，可以跟随鼠标移动变色，展示数据的。 还可以实现这种更好看的 以及柱状图 还等什么，我们直接开始把~ 准备工作 涉及知识点 爬虫基本流程 requests 发送请求 re 正则表达式 json 结构化数据解析 py
python爬虫之全国疫情数据可视化
逝水无痕博客
06-27 1万+
上图： 代码： from pyecharts import options as opts from pyecharts.charts import Map from pyecharts.faker import Faker import requests from datetime import date import json from pyecharts.globals import ThemeType update_date=date.today() #1.疫情接口 url = .
新冠疫情分析（疫情数据爬取+数据分析+网页排版展示）
热门推荐
wang_chun1的博客
08-10 3万+
新冠疫情来临，我简单的做一次疫情的数据分析温习我的python知识，也希望能帮到各位。分析中我用到的技术有：pyton爬取数据html+css将分析结果排版。用到的工具有excel+tableau进行数据处理分析和绘图。数据分析中还是存在很多的不足，很多地方有待提高，希望大家多多交流。 首先，我们要获取到数据，本次数据分析所需要的疫情数据来自https://ncov.dxy.cn。通过对网站的分析有世界的疫情数据和中国的疫情数据，所以我们要分别爬取到世界和全国的疫情数据。 好了，接下来废话不多说，为了更直
获得武汉疫情历史数据（紧急上线）
yuanzhoulvpi的博客
02-05 1万+
（获得武汉疫情历史数据）紧急上线 最近看了很多人都在询问武汉疫情的历史数据，很难获得，估计也只有一些新闻客户端有这东西。方法还是有的，唯一注意的就是可能获得的数据不全面，只能获得到全球各个国家的数据。 接下来介绍方法，如何获得全球的历史数据。 总统介绍就是：先从who网站上下载报告（pdf），然后用R提取报告里面的表格。 进入网站下载表格： 网站为： https://www.who.int/eme...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值