python疫情大数据分析_Python 大数据分析疫情:如何实现实时数据爬取及 Matplotlib 可视化?...

作者 | 杨秀璋

来源 | CSDN博客专家Eastmount

责编 | 夕颜

思来想去,虽然很忙,但还是挤时间针对这次肺炎疫情写个Python大数据分析系列博客,包括网络爬虫、可视化分析、GIS地图显示、情感分析、舆情分析、主题挖掘、威胁情报溯源、知识图谱、预测预警及AI和NLP应用等。希望该系列线上远程教学对您有所帮助,也希望早点战胜病毒,武汉加油、湖北加油、全国加油。待到疫情结束樱花盛开,这座英雄的城市等你们来。

第一篇文章将分享腾讯疫情实时数据抓取,获取全国各地和贵州省各地区的实时数据,并将数据存储至本地,最后调用Maplotlib和Seaborn绘制中国各地区、贵州省各城市、新增人数的图形。希望这篇可视化分析文章对您有所帮助,也非常感谢参考文献中老师的分享,一起加油,战胜疫情!如果您有想学习的知识或建议,可以给作者留言~

代码下载地址:https://github.com/eastmountyxz/Wuhan-data-analysis

Python实时数据爬取

我们的目标网站是腾讯新闻网实时数据,其原理主要是通过Requests获取JSON请求,从而得到各省、各市的疫情数据,这里推荐三篇原理文章,也强烈推荐大家阅读许老师(天元浪子)的博客。

爬虫目标网站:

https://news.qq.com/zt2020/page/feiyan.htm

第一步 分析网站

通过浏览器“审查元素”查看源代码及“网络”反馈的消息,如下图所示:

对应的响应信息如下所示:

第二步 发送请求并获取Json数据

通过分析url地址、请求方法、参数及响应格式,可以获取Json数据,注意url需要增加一个时间戳。下面代码展示了获取数据的键值及34个省份。

1# -*- coding: utf-8 -*-

2

3#------------------------------------------------------------------------------

4# 第一步:抓取数据

5# 参考文章:许老师博客 https://blog.csdn.net/xufive/article/details/104093197

6#------------------------------------------------------------------------------

7import time, json, requests

8# 抓取腾讯疫情实时json数据

9url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

10data = json.loads(requests.get(url=url).json()['data'])

11print(data)

12print(data.keys())

13

14# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

15num = data['areaTree'][0]['children']

16print(len(num))

17for item in num:

18 print(item['name'],end=" ") # 不换行

19else:

20 print("\n") # 换行

输出结果如下图所示,其顺序按照确诊人数排序。

第三步 获取湖北省疫情数据

接着通过 num[0][‘children’] 获取湖北省的疫情数据,代码如下:

1# -*- coding: utf-8 -*-

2

3#------------------------------------------------------------------------------

4# 第一步:抓取数据

5# 参考文章:许老师博客 https://blog.csdn.net/xufive/article/details/104093197

6#------------------------------------------------------------------------------

7import time, json, requests

8# 抓取腾讯疫情实时json数据

9url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

10data = json.loads(requests.get(url=url).json()['data'])

11print(data)

12print(data.keys())

13

14# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

15num = data['areaTree'][0]['children']

16print(len(num))

17for item in num:

18 print(item['name'],end=" ") # 不换行

19else:

20 print("\n") # 换行

21

22# 显示湖北省数据

23hubei = num[0]['children']

24for data in hubei:

25 print(data)

同样的方法可以获取各省份的数据,比如 num[1][‘children’] 表示广东省疫情数据,我们设置循环就能获取所有数据。其数据包括当日数据(today)和累计数据(total),confirm表示确诊、suspect表示疑似、dead表示死亡、heal表示治愈。

我们将所抓取的数据和真实的数据进行对比,武汉截止2月13日下午4点,新增确诊人数13436、累计确诊32994,发现是完全一致的。

1{'name': '武汉',

2'today': {'confirm': 13436, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': True},

3'total': {'confirm': 32994, 'suspect': 0, 'dead': 1036, 'heal': 1915, 'showRate': False,

4 'showHeal': False, 'deadRate': 3.14, 'healRate': 5.8}}

第四步 获取各省确诊人数

注意,初始化每个省份人数为0,然后循环累加该省所有城市的确诊人数,调用 city_data[‘total’][‘confirm’] 获取各城市的确诊数据。

1# -*- coding: utf-8 -*-

2

3#------------------------------------------------------------------------------

4# 第一步:抓取数据

5# 参考文章:许老师博客 https://blog.csdn.net/xufive/article/details/104093197

6#------------------------------------------------------------------------------

7import time, json, requests

8# 抓取腾讯疫情实时json数据

9url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

10data = json.loads(requests.get(url=url).json()['data'])

11print(data)

12print(data.keys())

13

14# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

15num = data['areaTree'][0]['children']

16print(len(num))

17for item in num:

18 print(item['name'],end=" ") # 不换行

19else:

20 print("\n") # 换行

21

22# 显示湖北省数据

23hubei = num[0]['children']

24for item in hubei:

25 print(item)

26else:

27 print("\n")

28

29# 解析数据(确诊 疑似 死亡 治愈)

30total_data = {}

31for item in num:

32 if item['name'] not in total_data:

33 total_data.update({item['name']:0})

34 for city_data in item['children']:

35 total_data[item['name']] +=int(city_data['total']['confirm'])

36print(total_data)

37# {'湖北': 48206, '广东': 1241, '河南': 1169, '浙江': 1145, '湖南': 968, ..., '澳门': 10, '西藏': 1}

输出结果如下图所示:

接下来我们分享可视化画图。

Matplotlib绘制全国各地区柱状图

首先,我们调用Matplotlib绘制全国各地区的确诊人数柱状图,帮助大家回忆其基本用法。total_data为字典变量键值对,比如{‘湖北’: 48206, ‘广东’: 1241,…}

1# -*- coding: utf-8 -*-

2

3#------------------------------------------------------------------------------

4# 第一步:抓取数据

5#------------------------------------------------------------------------------

6import time, json, requests

7# 抓取腾讯疫情实时json数据

8url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

9data = json.loads(requests.get(url=url).json()['data'])

10print(data)

11print(data.keys())

12

13# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

14num = data['areaTree'][0]['children']

15print(len(num))

16for item in num:

17 print(item['name'],end=" ") # 不换行

18else:

19 print("\n") # 换行

20

21# 显示湖北省数据

22hubei = num[0]['children']

23for item in hubei:

24 print(item)

25else:

26 print("\n")

27

28# 解析数据(确诊 疑似 死亡 治愈)

29total_data = {}

30for item in num:

31 if item['name'] not in total_data:

32 total_data.update({item['name']:0})

33 for city_data in item['children']:

34 total_data[item['name']] +=int(city_data['total']['confirm'])

35print(total_data)

36# {'湖北': 48206, '广东': 1241, '河南': 1169, '浙江': 1145, '湖南': 968, ..., '澳门': 10, '西藏': 1}

37

38#------------------------------------------------------------------------------

39# 第二步:绘制柱状图

40#------------------------------------------------------------------------------

41import matplotlib.pyplot as plt

42import numpy as np

43

44plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签

45plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号

46

47#获取数据

48names = total_data.keys()

49nums = total_data.values()

50print(names)

51print(nums)

52

53# 绘图

54plt.figure(figsize=[10,6])

55plt.bar(names, nums, width=0.3, color='green')

56

57# 设置标题

58plt.xlabel("地区", fontproperties='SimHei', size=12)

59plt.ylabel("人数", fontproperties='SimHei', rotation=90, size=12)

60plt.title("全国疫情确诊数对比图", fontproperties='SimHei', size=16)

61plt.xticks(list(names), fontproperties='SimHei', rotation=-45, size=10)

62# 显示数字

63for a, b in zip(list(names), list(nums)):

64 plt.text(a, b, b, ha='center', va='bottom', size=6)

65plt.show()

输出结果如下图所示:

那么,如果我想获取累计确诊人数、新增确诊人数、死亡人数和治愈人数,并进行可视化展示,怎么办呢?只需要简单替换参数即可。

city_data[‘total’][‘confirm’] 确诊人数

city_data[‘total’][‘suspect’] 疑似人数

city_data[‘total’][‘dead’] 死亡人数

city_data[‘total’][‘heal’] 治愈人数

city_data[‘today’][‘confirm’] 新增确诊人数1# -*- coding: utf-8 -*-

2

3#------------------------------------------------------------------------------

4# 第一步:抓取数据

5#------------------------------------------------------------------------------

6import time, json, requests

7# 抓取腾讯疫情实时json数据

8url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

9data = json.loads(requests.get(url=url).json()['data'])

10print(data)

11print(data.keys())

12

13# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

14num = data['areaTree'][0]['children']

15print(len(num))

16for item in num:

17 print(item['name'],end=" ") # 不换行

18else:

19 print("\n") # 换行

20

21# 显示湖北省数据

22hubei = num[0]['children']

23for item in hubei:

24 print(item)

25else:

26 print("\n")

27

28# 解析确诊数据

29total_data = {}

30for item in num:

31 if item['name'] not in total_data:

32 total_data.update({item['name']:0})

33 for city_data in item['children']:

34 total_data[item['name']] +=int(city_data['total']['confirm'])

35print(total_data)

36# {'湖北': 48206, '广东': 1241, '河南': 1169, '浙江': 1145, '湖南': 968, ..., '澳门': 10, '西藏': 1}

37

38# 解析疑似数据

39total_suspect_data = {}

40for item in num:

41 if item['name'] not in total_suspect_data:

42 total_suspect_data.update({item['name']:0})

43 for city_data in item['children']:

44 total_suspect_data[item['name']] +=int(city_data['total']['suspect'])

45print(total_suspect_data)

46

47# 解析死亡数据

48total_dead_data = {}

49for item in num:

50 if item['name'] not in total_dead_data:

51 total_dead_data.update({item['name']:0})

52 for city_data in item['children']:

53 total_dead_data[item['name']] +=int(city_data['total']['dead'])

54print(total_dead_data)

55

56# 解析治愈数据

57total_heal_data = {}

58for item in num:

59 if item['name'] not in total_heal_data:

60 total_heal_data.update({item['name']:0})

61 for city_data in item['children']:

62 total_heal_data[item['name']] +=int(city_data['total']['heal'])

63print(total_heal_data)

64

65# 解析新增确诊数据

66total_new_data = {}

67for item in num:

68 if item['name'] not in total_new_data:

69 total_new_data.update({item['name']:0})

70 for city_data in item['children']:

71 total_new_data[item['name']] +=int(city_data['today']['confirm']) # today

72print(total_new_data)

73

74#------------------------------------------------------------------------------

75# 第二步:绘制柱状图

76#------------------------------------------------------------------------------

77import matplotlib.pyplot as plt

78import numpy as np

79

80plt.figure(figsize=[10,6])

81plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签

82plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号

83

84#-----------------------------1.绘制确诊数据-----------------------------------

85p1 = plt.subplot(221)

86

87# 获取数据

88names = total_data.keys()

89nums = total_data.values()

90print(names)

91print(nums)

92print(total_data)

93plt.bar(names, nums, width=0.3, color='green')

94

95# 设置标题

96plt.ylabel("确诊人数", rotation=90)

97plt.xticks(list(names), rotation=-60, size=8)

98# 显示数字

99for a, b in zip(list(names), list(nums)):

100 plt.text(a, b, b, ha='center', va='bottom', size=6)

101plt.sca(p1)

102

103#-----------------------------2.绘制新增确诊数据-----------------------------------

104p2 = plt.subplot(222)

105names = total_new_data.keys()

106nums = total_new_data.values()

107print(names)

108print(nums)

109plt.bar(names, nums, width=0.3, color='yellow')

110plt.ylabel("新增确诊人数", rotation=90)

111plt.xticks(list(names), rotation=-60, size=8)

112# 显示数字

113for a, b in zip(list(names), list(nums)):

114 plt.text(a, b, b, ha='center', va='bottom', size=6)

115plt.sca(p2)

116

117#-----------------------------3.绘制死亡数据-----------------------------------

118p3 = plt.subplot(223)

119names = total_dead_data.keys()

120nums = total_dead_data.values()

121print(names)

122print(nums)

123plt.bar(names, nums, width=0.3, color='blue')

124plt.xlabel("地区")

125plt.ylabel("死亡人数", rotation=90)

126plt.xticks(list(names), rotation=-60, size=8)

127for a, b in zip(list(names), list(nums)):

128 plt.text(a, b, b, ha='center', va='bottom', size=6)

129plt.sca(p3)

130

131#-----------------------------4.绘制治愈数据-----------------------------------

132p4 = plt.subplot(224)

133names = total_heal_data.keys()

134nums = total_heal_data.values()

135print(names)

136print(nums)

137plt.bar(names, nums, width=0.3, color='red')

138plt.xlabel("地区")

139plt.ylabel("治愈人数", rotation=90)

140plt.xticks(list(names), rotation=-60, size=8)

141for a, b in zip(list(names), list(nums)):

142 plt.text(a, b, b, ha='center', va='bottom', size=6)

143plt.sca(p4)

144plt.show()

输出如下图所示,但是Matplotlib画图不太美观,接下来分享Seaborn可视化。

数据存储及Seaborn绘制全国各地区柱状图

Seaborn是在Matplotlib的基础上进行了更高级的API封装,从而使得作图更加容易,在大多数情况下使用seaborn能做出很具有吸引力的图,而使用matplotlib就能制作具有更多特色的图。

安装:pip install seaborn

1.文件写入

1# -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第一步:抓取数据

4#------------------------------------------------------------------------------

5import time, json, requests

6# 抓取腾讯疫情实时json数据

7url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

8data = json.loads(requests.get(url=url).json()['data'])

9print(data)

10print(data.keys())

11

12# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

13num = data['areaTree'][0]['children']

14print(len(num))

15for item in num:

16 print(item['name'],end=" ") # 不换行

17else:

18 print("\n") # 换行

19

20# 显示湖北省数据

21hubei = num[0]['children']

22for item in hubei:

23 print(item)

24else:

25 print("\n")

26

27# 解析确诊数据

28total_data = {}

29for item in num:

30 if item['name'] not in total_data:

31 total_data.update({item['name']:0})

32 for city_data in item['children']:

33 total_data[item['name']] +=int(city_data['total']['confirm'])

34print(total_data)

35# {'湖北': 48206, '广东': 1241, '河南': 1169, '浙江': 1145, '湖南': 968, ..., '澳门': 10, '西藏': 1}

36

37# 解析疑似数据

38total_suspect_data = {}

39for item in num:

40 if item['name'] not in total_suspect_data:

41 total_suspect_data.update({item['name']:0})

42 for city_data in item['children']:

43 total_suspect_data[item['name']] +=int(city_data['total']['suspect'])

44print(total_suspect_data)

45

46# 解析死亡数据

47total_dead_data = {}

48for item in num:

49 if item['name'] not in total_dead_data:

50 total_dead_data.update({item['name']:0})

51 for city_data in item['children']:

52 total_dead_data[item['name']] +=int(city_data['total']['dead'])

53print(total_dead_data)

54

55# 解析治愈数据

56total_heal_data = {}

57for item in num:

58 if item['name'] not in total_heal_data:

59 total_heal_data.update({item['name']:0})

60 for city_data in item['children']:

61 total_heal_data[item['name']] +=int(city_data['total']['heal'])

62print(total_heal_data)

63

64# 解析新增确诊数据

65total_new_data = {}

66for item in num:

67 if item['name'] not in total_new_data:

68 total_new_data.update({item['name']:0})

69 for city_data in item['children']:

70 total_new_data[item['name']] +=int(city_data['today']['confirm']) # today

71print(total_new_data)

72

73#------------------------------------------------------------------------------

74# 第二步:存储数据至CSV文件

75#------------------------------------------------------------------------------

76names = list(total_data.keys()) # 省份名称

77num1 = list(total_data.values()) # 确诊数据

78num2 = list(total_suspect_data.values()) # 疑似数据(全为0)

79num3 = list(total_dead_data.values()) # 死亡数据

80num4 = list(total_heal_data.values()) # 治愈数据

81num5 = list(total_new_data.values()) # 新增确诊病例

82print(names)

83print(num1)

84print(num2)

85print(num3)

86print(num4)

87print(num5)

88

89# 获取当前日期命名(2020-02-13-all.csv)

90n = time.strftime("%Y-%m-%d") + "-all.csv"

91fw = open(n, 'w', encoding='utf-8')

92fw.write('province,confirm,dead,heal,new_confirm\n')

93i = 0

94while i95 fw.write(names[i]+','+str(num1[i])+','+str(num3[i])+','+str(num4[i])+','+str(num5[i])+'\n')

96 i = i + 1

97else:

98 print("Over write file!")

99 fw.close()

存储成功之后,如下图所示。

对应腾讯的数据,如下图所示:

2.Seaborn绘制柱状图

1# -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第三步:调用Seaborn绘制柱状图

4#------------------------------------------------------------------------------

5import time

6import matplotlib

7import numpy as np

8import seaborn as sns

9import pandas as pd

10import matplotlib.pyplot as plt

11

12# 读取数据

13n = time.strftime("%Y-%m-%d") + "-all.csv"

14data = pd.read_csv(n)

15

16# 设置窗口

17fig, ax = plt.subplots(1,1)

18print(data['province'])

19

20# 设置绘图风格及字体

21sns.set_style("whitegrid",{'font.sans-serif':['simhei','Arial']})

22

23# 绘制柱状图

24g = sns.barplot(x="province", y="confirm", data=data, ax=ax,

25 palette=sns.color_palette("hls", 8))

26

27# 在柱状图上显示数字

28i = 0

29for index, b in zip(list(data['province']), list(data['confirm'])):

30 g.text(i+0.05, b+0.05, b, color="black", ha="center", va='bottom', size=6)

31 i = i + 1

32

33# 设置Axes的标题

34ax.set_title('全国疫情最新情况')

35

36# 设置坐标轴文字方向

37ax.set_xticklabels(ax.get_xticklabels(), rotation=-60)

38

39# 设置坐标轴刻度的字体大小

40ax.tick_params(axis='x',labelsize=8)

41ax.tick_params(axis='y',labelsize=8)

42

43plt.show()

显示结果如下图所示:

Seaborn绘制全国各地区对比柱状图

如果需要显示多个数据对比,则需要使用下面的代码。由于Seaborn能够进行按类别分组绘图,我们需要将抓取的数据存储为如下图所示的文件,才能将数据绘制在同一张图中。

1# -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第一步:抓取数据

4#------------------------------------------------------------------------------

5import time, json, requests

6# 抓取腾讯疫情实时json数据

7url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

8data = json.loads(requests.get(url=url).json()['data'])

9print(data)

10print(data.keys())

11

12# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

13num = data['areaTree'][0]['children']

14print(len(num))

15for item in num:

16 print(item['name'],end=" ") # 不换行

17else:

18 print("\n") # 换行

19

20# 显示湖北省数据

21hubei = num[0]['children']

22for item in hubei:

23 print(item)

24else:

25 print("\n")

26

27# 解析确诊数据

28total_data = {}

29for item in num:

30 if item['name'] not in total_data:

31 total_data.update({item['name']:0})

32 for city_data in item['children']:

33 total_data[item['name']] +=int(city_data['total']['confirm'])

34print(total_data)

35# {'湖北': 48206, '广东': 1241, '河南': 1169, '浙江': 1145, '湖南': 968, ..., '澳门': 10, '西藏': 1}

36

37# 解析疑似数据

38total_suspect_data = {}

39for item in num:

40 if item['name'] not in total_suspect_data:

41 total_suspect_data.update({item['name']:0})

42 for city_data in item['children']:

43 total_suspect_data[item['name']] +=int(city_data['total']['suspect'])

44print(total_suspect_data)

45

46# 解析死亡数据

47total_dead_data = {}

48for item in num:

49 if item['name'] not in total_dead_data:

50 total_dead_data.update({item['name']:0})

51 for city_data in item['children']:

52 total_dead_data[item['name']] +=int(city_data['total']['dead'])

53print(total_dead_data)

54

55# 解析治愈数据

56total_heal_data = {}

57for item in num:

58 if item['name'] not in total_heal_data:

59 total_heal_data.update({item['name']:0})

60 for city_data in item['children']:

61 total_heal_data[item['name']] +=int(city_data['total']['heal'])

62print(total_heal_data)

63

64# 解析新增确诊数据

65total_new_data = {}

66for item in num:

67 if item['name'] not in total_new_data:

68 total_new_data.update({item['name']:0})

69 for city_data in item['children']:

70 total_new_data[item['name']] +=int(city_data['today']['confirm']) # today

71print(total_new_data)

72

73#------------------------------------------------------------------------------

74# 第二步:存储数据至CSV文件

75#------------------------------------------------------------------------------

76names = list(total_data.keys()) # 省份名称

77num1 = list(total_data.values()) # 确诊数据

78num2 = list(total_suspect_data.values()) # 疑似数据(全为0)

79num3 = list(total_dead_data.values()) # 死亡数据

80num4 = list(total_heal_data.values()) # 治愈数据

81num5 = list(total_new_data.values()) # 新增确诊病例

82print(names)

83print(num1)

84print(num2)

85print(num3)

86print(num4)

87print(num5)

88

89# 获取当前日期命名(2020-02-13-all.csv)

90n = time.strftime("%Y-%m-%d") + "-all-4db.csv"

91fw = open(n, 'w', encoding='utf-8')

92fw.write('province,tpye,data\n')

93i = 0

94while i 95 fw.write(names[i]+',confirm,'+str(num1[i])+'\n')

96 fw.write(names[i]+',dead,'+str(num3[i])+'\n')

97 fw.write(names[i]+',heal,'+str(num4[i])+'\n')

98 fw.write(names[i]+',new_confirm,'+str(num5[i])+'\n')

99 i = i + 1

100else:

101 print("Over write file!")

102 fw.close()

103

104#------------------------------------------------------------------------------

105# 第三步:调用Seaborn绘制柱状图

106#------------------------------------------------------------------------------

107import time

108import matplotlib

109import numpy as np

110import seaborn as sns

111import pandas as pd

112import matplotlib.pyplot as plt

113

114# 读取数据

115n = time.strftime("%Y-%m-%d") + "-all-4db.csv"

116data = pd.read_csv(n)

117

118# 设置窗口

119fig, ax = plt.subplots(1,1)

120print(data['province'])

121

122# 设置绘图风格及字体

123sns.set_style("whitegrid",{'font.sans-serif':['simhei','Arial']})

124

125# 绘制柱状图

126g = sns.barplot(x="province", y="data", hue="tpye", data=data, ax=ax,

127 palette=sns.color_palette("hls", 8))

128

129# 设置Axes的标题

130ax.set_title('全国疫情最新情况')

131

132# 设置坐标轴文字方向

133ax.set_xticklabels(ax.get_xticklabels(), rotation=-60)

134

135# 设置坐标轴刻度的字体大小

136ax.tick_params(axis='x',labelsize=8)

137ax.tick_params(axis='y',labelsize=8)

138

139plt.show()

此时绘制如下图所示:

但是当数据很小时,其柱状图无法很好地显示,建议采用以下方法处理:

归一化处理

湖北省外和湖北省内对比1# -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第三步:调用Seaborn绘制柱状图

4#------------------------------------------------------------------------------

5import time

6import matplotlib

7import numpy as np

8import seaborn as sns

9import pandas as pd

10import matplotlib.pyplot as plt

11

12# 读取数据

13n = time.strftime("%Y-%m-%d") + "-all-4db-2no.csv"

14data = pd.read_csv(n)

15

16# 设置窗口

17fig, ax = plt.subplots(1,1)

18print(data['province'])

19

20# 设置绘图风格及字体

21sns.set_style("whitegrid",{'font.sans-serif':['simhei','Arial']})

22

23# 绘制柱状图

24g = sns.barplot(x="province", y="data", hue="tpye", data=data, ax=ax,

25 palette=sns.color_palette("hls", 8))

26

27# 设置Axes的标题

28ax.set_title('全国疫情最新情况')

29

30# 设置坐标轴文字方向

31ax.set_xticklabels(ax.get_xticklabels(), rotation=-60)

32

33# 设置坐标轴刻度的字体大小

34ax.tick_params(axis='x',labelsize=8)

35ax.tick_params(axis='y',labelsize=8)

36

37plt.show()

替换成新增确诊病例的对比图如下所示。

Seaborn绘制疫情趋势图及湖北省内外对比图

1.湖北省内外对比图

在做数据分析过程中,我们通常需要对数据进行预处理或加工,下面将数据划分为湖北省内和湖北省外,再绘制对应的对比图。

1# -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第三步:调用Seaborn绘制柱状图

4#------------------------------------------------------------------------------

5import time

6import matplotlib

7import numpy as np

8import seaborn as sns

9import pandas as pd

10import matplotlib.pyplot as plt

11

12# 读取数据

13data = pd.read_csv("2020-02-13-all-4db-2no.csv")

14

15# 设置窗口

16fig, ax = plt.subplots(1,1)

17print(data['province'])

18

19# 设置绘图风格及字体

20sns.set_style("whitegrid",{'font.sans-serif':['simhei','Arial']})

21

22# 绘制柱状图

23g = sns.barplot(x="province", y="data", hue="tpye", data=data, ax=ax,

24 palette=sns.color_palette("hls", 8))

25

26# 设置Axes的标题

27ax.set_title('全国疫情最新情况')

28

29# 设置坐标轴文字方向

30ax.set_xticklabels(ax.get_xticklabels())

31

32# 设置坐标轴刻度的字体大小

33ax.tick_params(axis='x',labelsize=8)

34ax.tick_params(axis='y',labelsize=8)

35

36plt.show()

输出结果如下图所示:

2.疫情趋势图

该部分代码是在许老师的文章基础上修改。

1# -*- coding: utf-8 -*-

2# 参考文章:许老师博客 https://blog.csdn.net/xufive/article/details/104093197

3import time, json, requests

4from datetime import datetime

5import matplotlib.pyplot as plt

6import matplotlib.dates as mdates

7

8# 抓取腾讯疫情实时json数据

9def catch_daily():

10 url = 'https://view.inews.qq.com/g2/getOnsInfo?name=wuwei_ww_cn_day_counts&callback=&_=%d'%int(time.time()*1000)

11 data = json.loads(requests.get(url=url).json()['data'])

12 data.sort(key=lambda x:x['date'])

13

14 date_list = list() # 日期

15 confirm_list = list() # 确诊

16 suspect_list = list() # 疑似

17 dead_list = list() # 死亡

18 heal_list = list() # 治愈

19 for item in data:

20 month, day = item['date'].split('/')

21 date_list.append(datetime.strptime('2020-%s-%s'%(month, day), '%Y-%m-%d'))

22 confirm_list.append(int(item['confirm']))

23 suspect_list.append(int(item['suspect']))

24 dead_list.append(int(item['dead']))

25 heal_list.append(int(item['heal']))

26 return date_list, confirm_list, suspect_list, dead_list, heal_list

27

28# 绘制每日确诊和死亡数据

29def plot_daily():

30

31

32 date_list, confirm_list, suspect_list, dead_list, heal_list = catch_daily() # 获取数据

33

34 plt.figure('2019-nCoV疫情统计图表', facecolor='#f4f4f4', figsize=(10, 8))

35 plt.title('2019-nCoV疫情曲线', fontsize=20)

36

37 plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签

38 plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号

39

40 plt.plot(date_list, confirm_list, 'r-', label='确诊')

41 plt.plot(date_list, confirm_list, 'rs')

42 plt.plot(date_list, suspect_list, 'b-',label='疑似')

43 plt.plot(date_list, suspect_list, 'b*')

44 plt.plot(date_list, dead_list, 'y-', label='死亡')

45 plt.plot(date_list, dead_list, 'y+')

46 plt.plot(date_list, heal_list, 'g-', label='治愈')

47 plt.plot(date_list, heal_list, 'gd')

48

49 plt.gca().xaxis.set_major_formatter(mdates.DateFormatter('%m-%d')) # 格式化时间轴标注

50 plt.gcf().autofmt_xdate() # 优化标注(自动倾斜)

51 plt.grid(line) # 显示网格

52 plt.legend(loc='best') # 显示图例

53 plt.savefig('2019-nCoV疫情曲线.png') # 保存为文件

54 plt.show()

55

56if __name__ == '__main__':

57 plot_daily()

输出结果如下图所示,疑似人数开始下降。武汉加油,中国必胜!

Seaborn绘制其他图形及分析

作者这里仅补充绘图语法,更多分析结果(死亡数-治愈数)请读者进行。同时,读者可以增加数据量,全国所有城市的数据,可能绘制的图形更为丰满。

KDE图

1# -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第四步:调用Seaborn绘制其他图形

4#------------------------------------------------------------------------------

5import time

6import matplotlib

7import numpy as np

8import seaborn as sns

9import pandas as pd

10import matplotlib.pyplot as plt

11

12# 读取数据

13data = pd.read_csv('2020-02-13-all.csv')

14

15plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签

16plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号

17

18# 设置窗口

19fig, ax = plt.subplots(1,1)

20print(data['province'])

21

22# 设置Axes的标题

23ax.set_title('全国疫情最新情况')

24

25# 设置坐标轴刻度的字体大小

26ax.tick_params(axis='x',labelsize=8)

27ax.tick_params(axis='y',labelsize=8)

28

29# 设置绘图风格及字体

30sns.set_style("whitegrid",{'font.sans-serif':['simhei','Arial']})

31

32# 六角形

33#sns.jointplot(x="dead", y="heal", data=data, color="b", kind='hex')

34

35# KDE 图

36sns.jointplot(x="dead", y="heal", data=data, kind="kde", space=0, color="#6AB27B")

37

38# 散点图+KDE 图

39# g = (sns.jointplot(x="dead", y="heal", data=data, color="k").plot_joint(sns.kdeplot, zorder=0, n_levels=6))

40

41plt.show()

显示如下图所示:

六角形

sns.jointplot(x=“dead”, y=“heal”, data=data, color=“b”, kind=‘hex’)

散点图

sns.jointplot(x=“dead”, y=“heal”, data=data, color=“b”, s=50, kind=‘scatter’, space = 0.1, size = 8, ratio = 5)

回归图

sns.jointplot(x=“dead”, y=“heal”, data=data, color=“b”, kind=‘reg’)

散点图+KDE 图

g = (sns.jointplot(x=“dead”, y=“heal”, data=data, color=“k”).plot_joint(sns.kdeplot, zorder=0, n_levels=6))

贵州省可视化分析

接着我们抓取某一个省的数据,比如贵州省。

1 -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第一步:抓取数据

4#------------------------------------------------------------------------------

5import time, json, requests

6# 抓取腾讯疫情实时json数据

7url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

8data = json.loads(requests.get(url=url).json()['data'])

9print(data)

10print(data.keys())

11

12# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

13num = data['areaTree'][0]['children']

14print(len(num))

15

16# 获取贵州下标

17k = 0

18for item in num:

19 print(item['name'],end=" ") # 不换行

20 if item['name'] in "贵州":

21 print("")

22 print(item['name'], k)

23 break

24 k = k + 1

25print("") # 换行

26

27# 显示贵州省数据

28gz = num[k]['children']

29for item in gz:

30 print(item)

31else:

32 print("\n")

输出结果如下图所示:

添加解析数据和存储文件,完整代码如下:

1# -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第一步:抓取数据

4#------------------------------------------------------------------------------

5import time, json, requests

6# 抓取腾讯疫情实时json数据

7url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

8data = json.loads(requests.get(url=url).json()['data'])

9print(data)

10print(data.keys())

11

12# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

13num = data['areaTree'][0]['children']

14print(len(num))

15

16# 获取贵州下标

17k = 0

18for item in num:

19 print(item['name'],end=" ") # 不换行

20 if item['name'] in "贵州":

21 print("")

22 print(item['name'], k)

23 break

24 k = k + 1

25print("") # 换行

26

27# 显示贵州省数据

28gz = num[k]['children']

29for item in gz:

30 print(item)

31else:

32 print("\n")

33

34#------------------------------------------------------------------------------

35# 第二步:解析数据

36#------------------------------------------------------------------------------

37# 解析确诊数据

38total_data = {}

39for item in gz:

40 if item['name'] not in total_data:

41 total_data.update({item['name']:0})

42 total_data[item['name']] = item['total']['confirm']

43print('确诊人数')

44print(total_data)

45# {'贵阳': 33, '遵义': 25, '毕节': 22, '黔南州': 17, '六盘水': 10, '铜仁': 10, '黔东南州': 10, '黔西南州': 4, '安顺': 4}

46

47# 解析疑似数据

48total_suspect_data = {}

49for item in gz:

50 if item['name'] not in total_suspect_data:

51 total_suspect_data.update({item['name']:0})

52 total_suspect_data[item['name']] = item['total']['suspect']

53print('疑似人数')

54print(total_suspect_data)

55

56# 解析死亡数据

57total_dead_data = {}

58for item in gz:

59 if item['name'] not in total_dead_data:

60 total_dead_data.update({item['name']:0})

61 total_dead_data[item['name']] = item['total']['dead']

62print('死亡人数')

63print(total_dead_data)

64

65# 解析治愈数据

66total_heal_data = {}

67for item in gz:

68 if item['name'] not in total_heal_data:

69 total_heal_data.update({item['name']:0})

70 total_heal_data[item['name']] = item['total']['heal']

71print('治愈人数')

72print(total_heal_data)

73

74# 解析新增确诊数据

75total_new_data = {}

76for item in gz:

77 if item['name'] not in total_new_data:

78 total_new_data.update({item['name']:0})

79 total_new_data[item['name']] = item['today']['confirm'] # today

80print('新增确诊人数')

81print(total_new_data)

82

83#------------------------------------------------------------------------------

84# 第三步:存储数据至CSV文件

85#------------------------------------------------------------------------------

86names = list(total_data.keys()) # 省份名称

87num1 = list(total_data.values()) # 确诊数据

88num2 = list(total_suspect_data.values()) # 疑似数据(全为0)

89num3 = list(total_dead_data.values()) # 死亡数据

90num4 = list(total_heal_data.values()) # 治愈数据

91num5 = list(total_new_data.values()) # 新增确诊病例

92print(names)

93print(num1)

94print(num2)

95print(num3)

96print(num4)

97print(num5)

98

99# 获取当前日期命名(2020-02-13-gz.csv)

100n = time.strftime("%Y-%m-%d") + "-gz.csv"

101fw = open(n, 'w', encoding='utf-8')

102fw.write('province,confirm,dead,heal,new_confirm\n')

103i = 0

104while i105 fw.write(names[i]+','+str(num1[i])+','+str(num3[i])+','+str(num4[i])+','+str(num5[i])+'\n')

106 i = i + 1

107else:

108 print("Over write file!")

109 fw.close()

完整输出内容如下所示:

1dict_keys(['lastUpdateTime', 'chinaTotal', 'chinaAdd', 'isShowAdd', 'chinaDayList', 'chinaDayAddList', 'dailyNewAddHistory', 'dailyDeadRateHistory', 'confirmAddRank', 'areaTree', 'articleList'])

234

3湖北 广东 河南 浙江 湖南 安徽 江西 江苏 重庆 山东 四川 黑龙江 北京 上海 福建 河北 陕西 广西 海南 云南 贵州

4贵州 20

5

6{'name': '贵阳', 'today': {'confirm': 4, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': True}, 'total': {'confirm': 33, 'suspect': 0, 'dead': 0, 'heal': 4, 'showRate': False, 'showHeal': True, 'deadRate': 0, 'healRate': 12.12}}

7{'name': '遵义', 'today': {'confirm': 0, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': False}, 'total': {'confirm': 25, 'suspect': 0, 'dead': 0, 'heal': 1, 'showRate': False, 'showHeal': True, 'deadRate': 0, 'healRate': 4}}

8{'name': '毕节', 'today': {'confirm': 0, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': True}, 'total': {'confirm': 22, 'suspect': 0, 'dead': 0, 'heal': 4, 'showRate': False, 'showHeal': True, 'deadRate': 0, 'healRate': 18.18}}

9{'name': '黔南州', 'today': {'confirm': 0, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': True}, 'total': {'confirm': 17, 'suspect': 0, 'dead': 0, 'heal': 5, 'showRate': False, 'showHeal': True, 'deadRate': 0, 'healRate': 29.41}}

10{'name': '六盘水', 'today': {'confirm': 0, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': True}, 'total': {'confirm': 10, 'suspect': 0, 'dead': 1, 'heal': 3, 'showRate': False, 'showHeal': True, 'deadRate': 10, 'healRate': 30}}

11{'name': '铜仁', 'today': {'confirm': 0, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': False}, 'total': {'confirm': 10, 'suspect': 0, 'dead': 0, 'heal': 5, 'showRate': False, 'showHeal': True, 'deadRate': 0, 'healRate': 50}}

12{'name': '黔东南州', 'today': {'confirm': 0, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': False}, 'total': {'confirm': 10, 'suspect': 0, 'dead': 0, 'heal': 2, 'showRate': False, 'showHeal': True, 'deadRate': 0, 'healRate': 20}}

13{'name': '黔西南州', 'today': {'confirm': 0, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': True}, 'total': {'confirm': 4, 'suspect': 0, 'dead': 0, 'heal': 3, 'showRate': False, 'showHeal': True, 'deadRate': 0, 'healRate': 75}}

14{'name': '安顺', 'today': {'confirm': 0, 'suspect': 0, 'dead': 0, 'heal': 0, 'isUpdated': False}, 'total': {'confirm': 4, 'suspect': 0, 'dead': 0, 'heal': 0, 'showRate': False, 'showHeal': True, 'deadRate': 0, 'healRate': 0}}

15

16

17确诊人数

18{'贵阳': 33, '遵义': 25, '毕节': 22, '黔南州': 17, '六盘水': 10, '铜仁': 10, '黔东南州': 10, '黔西南州': 4, '安顺': 4}

19疑似人数

20{'贵阳': 0, '遵义': 0, '毕节': 0, '黔南州': 0, '六盘水': 0, '铜仁': 0, '黔东南州': 0, '黔西南州': 0, '安顺': 0}

21死亡人数

22{'贵阳': 0, '遵义': 0, '毕节': 0, '黔南州': 0, '六盘水': 1, '铜仁': 0, '黔东南州': 0, '黔西南州': 0, '安顺': 0}

23治愈人数

24{'贵阳': 4, '遵义': 1, '毕节': 4, '黔南州': 5, '六盘水': 3, '铜仁': 5, '黔东南州': 2, '黔西南州': 3, '安顺': 0}

25新增确诊人数

26{'贵阳': 4, '遵义': 0, '毕节': 0, '黔南州': 0, '六盘水': 0, '铜仁': 0, '黔东南州': 0, '黔西南州': 0, '安顺': 0}

最后采用Seaborn绘制图形如下所示:

1# -*- coding: utf-8 -*-

2#------------------------------------------------------------------------------

3# 第一步:抓取数据

4#------------------------------------------------------------------------------

5import time, json, requests

6# 抓取腾讯疫情实时json数据

7url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5&callback=&_=%d'%int(time.time()*1000)

8data = json.loads(requests.get(url=url).json()['data'])

9print(data)

10print(data.keys())

11

12# 统计省份信息(34个省份 湖北 广东 河南 浙江 湖南 安徽....)

13num = data['areaTree'][0]['children']

14print(len(num))

15

16# 获取贵州下标

17k = 0

18for item in num:

19 print(item['name'],end=" ") # 不换行

20 if item['name'] in "贵州":

21 print("")

22 print(item['name'], k)

23 break

24 k = k + 1

25print("") # 换行

26

27# 显示贵州省数据

28gz = num[k]['children']

29for item in gz:

30 print(item)

31else:

32 print("\n")

33

34#------------------------------------------------------------------------------

35# 第二步:解析数据

36#------------------------------------------------------------------------------

37# 解析确诊数据

38total_data = {}

39for item in gz:

40 if item['name'] not in total_data:

41 total_data.update({item['name']:0})

42 total_data[item['name']] = item['total']['confirm']

43print('确诊人数')

44print(total_data)

45# {'贵阳': 33, '遵义': 25, '毕节': 22, '黔南州': 17, '六盘水': 10, '铜仁': 10, '黔东南州': 10, '黔西南州': 4, '安顺': 4}

46

47# 解析疑似数据

48total_suspect_data = {}

49for item in gz:

50 if item['name'] not in total_suspect_data:

51 total_suspect_data.update({item['name']:0})

52 total_suspect_data[item['name']] = item['total']['suspect']

53print('疑似人数')

54print(total_suspect_data)

55

56# 解析死亡数据

57total_dead_data = {}

58for item in gz:

59 if item['name'] not in total_dead_data:

60 total_dead_data.update({item['name']:0})

61 total_dead_data[item['name']] = item['total']['dead']

62print('死亡人数')

63print(total_dead_data)

64

65# 解析治愈数据

66total_heal_data = {}

67for item in gz:

68 if item['name'] not in total_heal_data:

69 total_heal_data.update({item['name']:0})

70 total_heal_data[item['name']] = item['total']['heal']

71print('治愈人数')

72print(total_heal_data)

73

74# 解析新增确诊数据

75total_new_data = {}

76for item in gz:

77 if item['name'] not in total_new_data:

78 total_new_data.update({item['name']:0})

79 total_new_data[item['name']] = item['today']['confirm'] # today

80print('新增确诊人数')

81print(total_new_data)

82

83#------------------------------------------------------------------------------

84# 第三步:存储数据至CSV文件

85#------------------------------------------------------------------------------

86names = list(total_data.keys()) # 省份名称

87num1 = list(total_data.values()) # 确诊数据

88num2 = list(total_suspect_data.values()) # 疑似数据(全为0)

89num3 = list(total_dead_data.values()) # 死亡数据

90num4 = list(total_heal_data.values()) # 治愈数据

91num5 = list(total_new_data.values()) # 新增确诊病例

92print(names)

93print(num1)

94print(num2)

95print(num3)

96print(num4)

97print(num5)

98

99# 获取当前日期命名(2020-02-13-gz.csv)

100n = time.strftime("%Y-%m-%d") + "-gz-4db.csv"

101fw = open(n, 'w', encoding='utf-8')

102fw.write('province,type,data\n')

103i = 0

104while i105 fw.write(names[i]+',confirm,'+str(num1[i])+'\n')

106 fw.write(names[i]+',dead,'+str(num3[i])+'\n')

107 fw.write(names[i]+',heal,'+str(num4[i])+'\n')

108 fw.write(names[i]+',new_confirm,'+str(num5[i])+'\n')

109 i = i + 1

110else:

111 print("Over write file!")

112 fw.close()

113

114#------------------------------------------------------------------------------

115# 第四步:调用Seaborn绘制柱状图

116#------------------------------------------------------------------------------

117import time

118import matplotlib

119import numpy as np

120import seaborn as sns

121import pandas as pd

122import matplotlib.pyplot as plt

123

124# 读取数据

125n = time.strftime("%Y-%m-%d") + "-gz-4db.csv"

126data = pd.read_csv(n)

127

128# 设置窗口

129fig, ax = plt.subplots(1,1)

130print(data['province'])

131

132# 设置绘图风格及字体

133sns.set_style("whitegrid",{'font.sans-serif':['simhei','Arial']})

134

135# 绘制柱状图

136g = sns.barplot(x="province", y="data", hue="type", data=data, ax=ax,

137 palette=sns.color_palette("hls", 8))

138

139# 设置Axes的标题

140ax.set_title('贵州2月13日疫情最新情况')

141

142# 设置坐标轴文字方向

143ax.set_xticklabels(ax.get_xticklabels(), rotation=-60)

144

145# 设置坐标轴刻度的字体大小

146ax.tick_params(axis='x',labelsize=8)

147ax.tick_params(axis='y',labelsize=8)

148

149plt.show()

贵州省2月13日疫情显示结果如下所示:

总结

写到这里,第一篇疫情分析的文章就讲解完毕,希望对您有所帮助。主要包括两部分内容:

实时数据爬取

可视化分析

后续还会分享GIS地图显示、情感分析、舆情分析、主题挖掘、威胁情报溯源、知识图谱、预测预警及AI和NLP应用等。如果文章对您有所帮助,将是我写作的最大动力。

同时,向钟院士致敬,向一线工作者致敬。侠之大者,为国为民。咱们中国人一生的最高追求,为天地立心,为生民立命,为往圣继绝学,为万世开太平。以一人之力系万民康乐,以一身犯险保大业安全。他们真是做到了,武汉加油,中国加油!

(By:Eastmount 2020-02-17 晚上9点夜于贵阳 http://blog.csdn.net/eastmount/)

https://blog.csdn.net/Eastmount/article/details/104298388

本文为CSDN博客专家文章,转载请注明出处。

【End】

2月18日、2月20日,阿里云CIO学院攻“疫”技术课程正式开启。您将获得与达摩院数据库首席科学家 、阿里巴巴集团副总裁、ACM 杰出科学家李飞飞,Caffe之父、ONNX创始人、阿里巴巴集团副总裁贾扬清,阿里巴巴集团副总裁、阿里 CIO 学院院长胡臣杰等顶级技术专家直播互动的机会。

猛戳“阅读原文”,立即加入!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值