功能描述:python爬取地址的经度纬度,并将经纬度映射到地图上。
步骤 :
第一步:对地址进行预处理,然后利用python爬取各个地址的经度纬度;
第二步:将经纬度映射到地图上。
爬取经度纬度
python第三方库:selenium、re、pandas
Selenium是一个用于Web应用程序测试的工具。Selenium测试直接运行在浏览器中,就像真正的用户在操作一样。支持的浏览器包括IE(7, 8, 9, 10, 11),Firefox,Safari,Chrome,Opera等。使用python爬虫调用selenium来模拟正常用户访问浏览器.
re库 正则表达式(英文名称:regular expression,regex,RE)是用来简洁表达一组字符串特征的表达式。最主要应用在字符串匹配中.
导入数据以及数据清理
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
import re, pandas as pd
data = pd.read_excel("./data.xlsx")
def trans(x):
if '号' in x:
return x.split('号')[0] + '号'
elif '栋' in x:
return x.split('栋')[0] + '栋'
elif '楼' in x:
return x.split('楼')[0] + '楼'
else:
return x
data['修正地址'] = data['地址'].apply(lambda x: trans(x))
获取经度纬度
def coordinate(site):
# 创建浏览器驱动对象
driver = webdriver.Chrome()
driver.get('http://api.map.baidu.com/lbsapi/getpoint/index.html')
# 显式等待,设置timeout
wait = WebDriverWait(driver, 9)
# 判断输入框是否加载
input = wait.until(
EC.presence_of_element_located(
(By.CSS_SELECTOR, '#localvalue')))
# 判断搜索按钮是否加载
submit = wait.until(
EC.element_to_be_clickable(
(By.CSS_SELECTOR, '#localsearch')))
# 输入搜索词,点击搜索按钮
input.clear()
input.send_keys(site)
submit.click()
# 等待坐标
wait.until(
EC.presence_of_element_located(
(By.CSS_SELECTOR, '#no_0')))
# 获取网页文本,提取经纬度
source = driver.page_source
xy = re.findall('坐标:([\d.]+),([\d.]+)', source)
# 转浮点数,取中位数
df = pd.DataFrame(xy, columns=['longitude', 'latitude'])
df['longitude'] = pd.to_numeric(df['longitude'])
df['latitude'] = pd.to_numeric(df['latitude'])
longitude = df['longitude'].median()
latitude = df['latitude'].median()
# 关闭浏览器驱动
driver.close()
return [longitude, latitude]
df = pd.DataFrame(columns=['公司名', '详细地址', '修正地址', '经度', '纬度'])
for i in range(len(data['修正地址'])):
try:
onelist = coordinate(data['修正地址'][i])
except:
onelist = [-1, -1]
print(i, data['修正地址'][i])
add_data = pd.Series({'公司名':data['公司'][i], '详细地址':data['地址'][i], '修正地址':data['修正地址'][i], \
'经度':onelist[0], '纬度':onelist[1]})
# ignore_index=True不能少
df = df.append(add_data, ignore_index=True)
df.to_csv('D:/good.csv', encoding='gbk')
将经纬度映射到地图上
python第三方库:pyecharts
pyecharts 文档:https://pyecharts.org/#/zh-cn/intro
ECharts是一个纯Javascript的图表库,可以流畅的运行在PC和移动设备上,兼容当前绝大部分浏览器,底层依赖轻量级的Canvas类库ZRender,提供直观、生动、可交互、可高度个性化定制的数据可视化图表。ECharts提供了常规的折线图、柱状图、散点图、饼图、K线图,用于统计的盒形图,用于地理数据可视化的地图、热力图、线图,用于关系数据可视化的关系图、treemap,多维数据可视化的平行坐标,还有用于BI的漏斗图、仪表盘,并且支持图与图之间的混搭。
要想使用地图库,需要安装第三方包(pip/pip3)
pip install echarts-countries-pypkg # 全球国家地图
pip install echarts-cities-pypkg # 全球城市地图
pip install echarts-china-provinces-pypkg # 中国省级地图
pip install echarts-china-cities-pypkg # 中国市级地图
pip install echarts-china-misc-pypkg
pip install echarts-united-kingdom-pypkg
绘制地图
import pandas as pd
from pyecharts import Geo, Style
data = pd.read_csv("./data.csv", encoding='gbk')
style = Style(title_color= "#fff",title_pos = "center",width = 1200,height = 600,background_color = "#404a59")
geo_cities_coords={data.iloc[i]['公司']:[data.iloc[i]['经度'],data.iloc[i]['纬度']] for i in range(len(data))} #根据文件大小生成字典
attr=list(data['公司'])
values=list(data['社保\n人数'])
piece=[
{'max': 5,'label': '5以下','color':'#50A3BA'}, #有上限无下限,label和color自定义
{'min': 5, 'max': 20,'label': '5-20','color':'#81AE9F'},
{'min': 20, 'max': 150,'label': '20-150','color':'#E2C568'},
{'min': 150, 'max': 300,'label': '150-300','color':'#FCF84D'},
{'min': 300, 'label': '300以上','color':'#D94E5D'}#有下限无上限
]
geo = Geo('各个公司位置以及人数',**style.init_style)
geo.add("",attr=attr,value=values,symbol_size= 5,visual_text_color= "#fff",is_piecewise = True,
is_visualmap= True,maptype = '深圳',
pieces=piece, #注意,要想pieces生效,必须is_piecewise = True,
geo_cities_coords=geo_cities_coords)
geo.render( '深圳各个公司以及人数.html')
效果图:
参考博客:
1.https://blog.csdn.net/qq_31362537/article/details/90667814
2. https://blog.csdn.net/Yellow_python/article/details/81156639