今天的文章呢主要目的不是爬虫,而是爬虫的同时顺便实现实时可视化。上次爬摩拜单车数据的文章使用的是传统的ArcGIS进行自定义可视化,硬核 | Python多线程爬取摩拜单车数据与ArcGIS可视化,今天我想给大家分享的是QGIS可视化(MapBox在线底图)和Python可视化。
交通大数据爬取
本数据是由人送外号数据帝的CSDN排名1万+的博主小猿猴GIS发现的,我们其实想过到底要不要写篇文章公开(最后还是公开了,数据共享嘛)。因为之前我写过一篇爬取的全国各省市实时QQ登录人数数据,公开数据爬取接口和源代码之后没多腾讯就关闭了这个接口,要是说因为我那篇文章导致的封接口可能太高看我自己了,但是QQ登录人数数据目前也已经无法获得是一个事实,允悲。硬核 | 全国QQ用户24h实时在线人数的爬取与分析,附数据
具体的数据获取就不详细说了,比较简单,先抓包分析发现数据接口,再分析数据进行清洗成自己想要的格式:
数据的爬取比较简单,没有什么反爬虫措施,也不用设置什么参数,以下代码可以直接用:
爬取到的数据格式如下,第一列为纬度,第二列为经度,第三列为车辆(使用了高德地图服务的车辆)的定位次数:
之后数据简单的先导入ArcGIS进行转为shp,然后在地图上进行显示,可以看到点要素基本上数据都是沿着道路分布(估计数据主要是用了高德地图车辆导航数据):
使用某德交通大数据的相关论文推荐
如果大家想做相关研究给大家推荐一篇论文&