java实现调用百度接口将大量数据库中保存的地址转换为经纬度

目录

 

一、背景

二、前期准备

三、百度接口介绍

四、功能实现

五、成果展示及总结


一、背景

最近,碰到了一个业务,是将数据库中所有的地址信息请求百度接口获取经纬度保存起来。有38万多个地址,想到的方案就是查出所有的地址字段加上主键字段,然后导出csv文件,读取这个文件,遍历请求百度api接口,获取经纬度信息,生成一个新的文件,作为一张表导入数据库,使用sql给地址刷一遍经纬度。

二、前期准备

1、生成需要转换的地址数据

(1)示例:查询sql需要筛选出经纬度字段为空的地址数据,之后的刷经纬度需要主键字段,所有也需要获取,然后导出一个文件。

select external_id,address from customer where   longitude is null and latitude is null and address is not null 

(2)导出这条sql查出的记录,像下面这样,一个csv文件。

三、百度接口介绍

1、百度地址转经纬度接口支持返回json格式和xml格式

(1)get方式请求下面地址将返回json格式,key为自己在百度上申请的开发者密钥。

 http://api.map.baidu.com/geocoding/v3/?address={address}&output=json&key=SkSf

(2)成功的返回格式如下:

{
    "status":"OK",
    "result":{
        "location":{
            "lng":123.473237,
            "lat":41.833995
        },
        "precise":1,
        "confidence":80,
        "level":"\u95e8\u5740"
    }
}

(3)get方式请求下面地址将返回xml格式

http://api.map.baidu.com/geocoding/v3/?address={address}&output=json&key=SkSf

(4)成功的格式如下:

<?xml version="1.0" encoding="utf-8" ?> 
<GeocoderSearchResponse> 
	<status>OK</status>
	<result>
					<location>
				<lat>40.148852</lat>
				<lng>117.125265</lng>
			</location>	
			<precise>0</precise>
			<confidence>75</confidence>
			<level>购物</level>
			</result>	
</GeocoderSearchResponse>

(5)请求上面两个url,都可能返回失败内容,失败内容都是像下面这样,返回html页面。

<!DOCTYPE html>
<!--STATUS OK-->
<html>
<head>
    <meta http-equiv="X-UA-Compatible" content="IE=edge,chrome=1">
    <meta http-equiv="content-type" content="text/html;charset=utf-8">
    <meta content="always" name="referrer">
    <script src="https://ss1.bdstatic.com/5eN1bjq8AAUYm2zgoY3K/r/www/nocache/imgdata/seErrorRec.js"></script>
    <title>页é¢ä¸å­å¨_ç¾åº¦æç´¢</title>
    <style data-for="result">
        body {color: #333; background: #fff; padding: 0; margin: 0; position: relative; min-width: 700px; font-family: arial; font-size: 12px }
        p, form, ol, ul, li, dl, dt, dd, h3 {margin: 0; padding: 0; list-style: none }
        input {padding-top: 0; padding-bottom: 0; -moz-box-sizing: border-box; -webkit-box-sizing: border-box; box-sizing: border-box } img {border: none; }
        .logo {width: 117px; height: 38px; cursor: pointer }
         ...

注意:无论想返回json格式还是xml格式,当请求返回这种html类型数据,就获取不到经纬度,需要收集下来重新请求。

四、功能实现

1、先来实现百度接口返回为xml格式并解析获取经纬度,最后附完整代码

(1)为了记录读取的csv文件的原始地址数据和请求百度接口获取经纬度数据,原始文件中有主键(external_id)和地址(address),请求接口返回我们需要的经度(longitude)维度(latitude),这四个字段都需要最终保存到生成的结果文件中,所以我们声明ResultBean类如下,来记录数据(省略setget方法)。

    static class ResultBean {

        private String external_id;
        //百度经纬度
        private String longitude;
        private String latitude;

        //address
        private String address;

        public ResultBean(String external_id, String address, String longitude, String latitude) {
            this.external_id = external_id;
            this.longitude = longitude;
            this.latitude = latitude;
            this.address = address;
        }

    }

(2)读取导出的原始csv地址文件方法如下:通过CSVReader的write方法读取文件中的每条记录,保存到ResultBean,执行请求后面的经纬度方法。

    public static void readCSV(List<ResultBean> datas, String sourcePath) {
        List<ResultBean> failData = new ArrayList<>();
        try (CSVReader csvReader = new CSVReaderBuilder(new BufferedReader(new InputStreamReader(new FileInputStream(new File(sourcePath)), "utf-8"))).build()) {
            Iterator<String[]> iterator = csvReader.iterator();
            //导出文件有标题行,去掉标题行,没有就不需要
            iterator.next();
            while (iterator.hasNext()) {
                String[] next = iterator.next();
                String address = next[1].replaceAll("\\s*", "");
                ResultBean resultBean = new ResultBean(next[0], address, null, null);

                //百度接口地址转换经纬度方法
                getLngLat(datas, failData, resultBean);
            }

            //失败数据再次请求百度接口,最多循环一千次,防止失败数据出现程序永不停止
            int i = 1000;
            while (failData.size() > 0 && i > 0) {
                List<ResultBean> tempFailData = new ArrayList<>(failData);
                failData.clear();
                for (ResultBean resultBean : tempFailData) {
                    getLngLat(datas, failData, resultBean);
                }
                i--;
            }

        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            System.out.println("fail record:" + failData.size());
        }
    }

(3)我们使用restTemplate的getForObject方法请求百度接口,得到响应的结果,从上面可以看出返回的正常数据都是String类型的,肯定有"GeocoderSearchResponse",会基于这个字符串判断是否返回了xml数据,防止返回上面所说的html类型的数据,导致xml转换为bean对象获取经纬度报错。请求百度接口方法如下:

 /**
     * 封装的获取经纬度方法
     * @param datas
     * @param failData
     * @param resultBean
     */
    private static void getLngLat(List<ResultBean> datas, List<ResultBean> failData, ResultBean resultBean) {
        Map<String, String> map = Maps.newHashMap();
        map.put("address", resultBean.getAddress());
        String response = restTemplate.getForObject(URL, String.class, map);
        if (response.contains("GeocoderSearchResponse")) {
            GeocoderSearchResponse g = JAXB.unmarshal(new StringReader(response), GeocoderSearchResponse.class);
            if (g.status.equals("OK")) {
                resultBean.setLatitude(g.result.location.lat);
                resultBean.setLongitude(g.result.location.lng);
                datas.add(resultBean);
            } else {
                failData.add(resultBean);
            }
        } else {
            failData.add(resultBean);
        }
    }

(4)对于偶尔返回html类型的错误数据,会收集相应的ResultBean到failData集合中,执行完csv文件中的所有数据后,遍历失败的集合再次请求百度接口,重复拿到失败数据集合请求百度,直到没有失败数据,或者已经重复了1000次,结束请求百度接口,将百度的所有转换成功的数据写入结果文件中。部分代码如下:

 //失败数据再次请求百度接口,最多循环一千次,防止失败数据出现程序永不停止
            int i = 1000;
            while (failData.size() > 0 && i > 0) {
                List<ResultBean> tempFailData = new ArrayList<>(failData);
                failData.clear();
                for (ResultBean resultBean : tempFailData) {
                    getLngLat(datas, failData, resultBean);
                }
                i--;
            }

(5)当请求百度api返回正确xml数据以后, 需要将xml转换为bean,然后获取经纬度,很多博客说使用dom4j进行转换,但是我发现公司pom里没有dom4j这个依赖,加这个依赖需要向上申请,所以就使用了JAXB(Java Architecture for XML Binding) ,他是一个业界的标准,是一项可以根据XML Schema产生Java类的技术。通过分析上面返回的xml,我们需要建立三个类,一个是GeocoderSearchResponse,Result,Location,他们都需要加上@XmlRootElement注解。类声明如下:

    @XmlRootElement(name = "GeocoderSearchResponse")
    static class GeocoderSearchResponse {
        private String status;

        private Result result;


        public String getStatus() {
            return status;
        }

        public void setStatus(String status) {
            this.status = status;
        }

        public Result getResult() {
            return result;
        }

        public void setResult(Result result) {
            this.result = result;
        }
    }

    @XmlRootElement
    static class Result {
        private Location location;


        public Location getLocation() {
            return location;
        }

        public void setLocation(Location location) {
            this.location = location;
        }
    }

    @XmlRootElement
    static class Location {
        private String lat;
        private String lng;

        public String getLat() {
            return lat;
        }

        public void setLat(String lat) {
            this.lat = lat;
        }

        public String getLng() {
            return lng;
        }

        public void setLng(String lng) {
            this.lng = lng;
        }
    }

注意:①类名的首字母会自动变为小写去对应xml中的字段,由于xml中GeocoderSearchResponse直接是大写的,所以需要在注解上加name属性,否则可能报错:unexpected element (uri:"", local:"GeocoderSearchResponse"). Expected elements are <{}geocoderSearchResponse ②每个类的变量只能有一个获取方式,需要声明变量私有,通过getset方法获取,否则会报错:Class has two properties of the same name "result"。

(6)当获取所有已经转换成功的经纬度信息后,将数据写入结果csv文件中,通过CsvWriter的write方法如下:

  public static void writeCSV(List<ResultBean> datas, String goalPath) {
        CsvWriter csvWriter = new CsvWriter(new File(goalPath));
        for (ResultBean data : datas) {
            csvWriter.write(new String[]{data.getExternal_id(), data.getAddress(), data.getLongitude(), data.getLatitude()});
        }
        csvWriter.close();
    }

(7)所有代码如下:

package com.forceclouds.crm.local;

import cn.hutool.core.date.StopWatch;
import cn.hutool.core.text.csv.CsvWriter;
import com.google.common.collect.Maps;
import com.opencsv.CSVReader;
import com.opencsv.CSVReaderBuilder;
import org.springframework.web.client.RestTemplate;

import javax.xml.bind.JAXB;
import javax.xml.bind.annotation.XmlRootElement;
import java.io.*;
import java.util.ArrayList;
import java.util.Iterator;
import java.util.List;
import java.util.Map;

/*
 *@create by jiankang
 *@date 2020/6/3 time 14:59
 */

public class GPSTest {
    private static String URL = "http://api.map.baidu.com/geocoding/v3/?address={address}&key=SkSf";
    private static RestTemplate restTemplate = new RestTemplate();

    public static void main(String[] args) {
        List<ResultBean> datas = new ArrayList<>();
        ResultBean title = new ResultBean("external_id", "address", "longitude", "latitude");
        datas.add(title);
        String sourcePath = "C:\\Users\\ForceClouds\\Desktop\\aaa.csv";
        String goalPath = "C:\\Users\\ForceClouds\\Desktop\\jiangkang0905.csv";
        StopWatch stopWatch = new StopWatch();
        stopWatch.start("经纬度转换运行程序");
        readCSV(datas, sourcePath);
        stopWatch.stop();
        System.out.println(stopWatch.prettyPrint());
        writeCSV(datas, goalPath);
    }

    public static void writeCSV(List<ResultBean> datas, String goalPath) {
        CsvWriter csvWriter = new CsvWriter(new File(goalPath));
        for (ResultBean data : datas) {
            csvWriter.write(new String[]{data.getExternal_id(), data.getAddress(), data.getLongitude(), data.getLatitude()});
        }
        csvWriter.close();
    }

    public static void readCSV(List<ResultBean> datas, String sourcePath) {
        List<ResultBean> failData = new ArrayList<>();
        try (CSVReader csvReader = new CSVReaderBuilder(new BufferedReader(new InputStreamReader(new FileInputStream(new File(sourcePath)), "utf-8"))).build()) {
            Iterator<String[]> iterator = csvReader.iterator();
            //导出文件有标题行,去掉标题行,没有就不需要
            iterator.next();
            while (iterator.hasNext()) {
                String[] next = iterator.next();
                String address = next[1].replaceAll("\\s*", "");
                ResultBean resultBean = new ResultBean(next[0], address, null, null);

                //百度接口地址转换经纬度方法
                try{
                    getLngLat(datas, failData, resultBean);
                }catch (Exception e){ }
            }

            //失败数据再次请求百度接口,最多循环一千次,防止失败数据出现程序永不停止
            int i = 1000;
            while (failData.size() > 0 && i > 0) {
                List<ResultBean> tempFailData = new ArrayList<>(failData);
                failData.clear();
                for (ResultBean resultBean : tempFailData) {
                    try{
                    getLngLat(datas, failData, resultBean);
                }catch (Exception e){ }
                }
                i--;
            }

        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            System.out.println("fail record:" + failData.size());
        }
    }


    private static void getLngLat(List<ResultBean> datas, List<ResultBean> failData, ResultBean resultBean) {
        Map<String, String> map = Maps.newHashMap();
        map.put("address", resultBean.getAddress());
        String response = restTemplate.getForObject(URL, String.class, map);
        if (response.contains("GeocoderSearchResponse")) {
            GeocoderSearchResponse g = JAXB.unmarshal(new StringReader(response), GeocoderSearchResponse.class);
            if (g.status.equals("OK")) {
                resultBean.setLatitude(g.result.location.lat);
                resultBean.setLongitude(g.result.location.lng);
                datas.add(resultBean);
            } else {
                failData.add(resultBean);
            }
        } else {
            failData.add(resultBean);
        }
    }


    @XmlRootElement(name = "GeocoderSearchResponse")
    static class GeocoderSearchResponse {
        private String status;

        private Result result;


        public String getStatus() {
            return status;
        }

        public void setStatus(String status) {
            this.status = status;
        }

        public Result getResult() {
            return result;
        }

        public void setResult(Result result) {
            this.result = result;
        }
    }

    @XmlRootElement
    static class Result {
        private Location location;


        public Location getLocation() {
            return location;
        }

        public void setLocation(Location location) {
            this.location = location;
        }
    }

    @XmlRootElement
    static class Location {
        private String lat;
        private String lng;

        public String getLat() {
            return lat;
        }

        public void setLat(String lat) {
            this.lat = lat;
        }

        public String getLng() {
            return lng;
        }

        public void setLng(String lng) {
            this.lng = lng;
        }
    }


    static class ResultBean {

        private String external_id;
        //百度经纬度
        private String longitude;
        private String latitude;

        //address
        private String address;

        public ResultBean(String external_id, String address, String longitude, String latitude) {
            this.external_id = external_id;
            this.longitude = longitude;
            this.latitude = latitude;
            this.address = address;
        }

        public String getExternal_id() {
            return external_id;
        }

        public String getAddress() {
            return address;
        }


        public String getLongitude() {
            return longitude;
        }

        public String getLatitude() {
            return latitude;
        }

        public void setExternal_id(String external_id) {
            this.external_id = external_id;
        }

        public void setLongitude(String longitude) {
            this.longitude = longitude;
        }

        public void setLatitude(String latitude) {
            this.latitude = latitude;
        }

        public void setAddress(String address) {
            this.address = address;
        }
    }
}

2、实现返回json格式并解析获取经纬度

   Ⅰ、  第一种比较简单,只需要把上面完整代码中url改一下,并且getLngLat方法换一下就可以了

(1)请求百度api加一个output=json的参数。

 private static String URL = "http://api.map.baidu.com/geocoding/v3/?address={address}&output=json&key=SkSf";

(2)通过new JacksonJsonParser()对返回值进行解析,注意判断返回值是否为html形式的内容,是的话需要收集重新请求。代码如下。

    private static void getLngLat(List<ResultBean> datas, List<ResultBean> failData, ResultBean resultBean) {
        Map<String, String> map = Maps.newHashMap();
        map.put("address", resultBean.getAddress());
//        restTemplate.getMessageConverters().add(new MyMappingJackson2HttpMessageConverter());
        String response = restTemplate.getForObject(URL, String.class, map);
        if (response != null && response.contains("lng") && response.contains("lat")) {
            final Map<String, Object> geocoderResult = new JacksonJsonParser().parseMap(response);
            Map location = (Map) ((Map) geocoderResult.get("result")).get("location");
            Double lng = (Double) location.get("lng");
            System.out.println(lng);
            Double lat = (Double) location.get("lat");
            System.out.println(lat);
            ResultBean bean = new ResultBean(resultBean.getExternal_id(), resultBean.getAddress(), String.valueOf(lng), String.valueOf(lat));
            datas.add(bean);
        } else {
            failData.add(resultBean);
        }
    }

Ⅱ、另一种解析json方式是我们根据返回值,封装一个bean对象使用RestTemplate的getForObject直接转换为bean类型

(1)封装的bean如下:

    static class GeocoderResult implements Serializable {
        String status;
        Map result;

        public String getStatus() {
            return status;
        }

        public void setStatus(String status) {
            this.status = status;
        }

        public Map getResult() {
            return result;
        }

        public void setResult(Map result) {
            this.result = result;
        }

        @Override
        public String toString() {
            return super.toString();
        }
    }

(2)、请求百度api接口如下:

    private static void getLngLat2(List<ResultBean> datas, List<ResultBean> failData, ResultBean resultBean) {
        Map<String, String> map = Maps.newHashMap();
        map.put("address", resultBean.getAddress());
        restTemplate.getMessageConverters().add(new MyMappingJackson2HttpMessageConverter());
        try {
            GeocoderResult  geocoderResult = restTemplate.getForObject(URL, GeocoderResult.class, map);
            if (geocoderResult.status.equals("OK")) {
                Map location = (Map) geocoderResult.getResult().get("location");
                Double lng = (Double) location.get("lng");
                Double lat = (Double) location.get("lat");
                ResultBean bean = new ResultBean(resultBean.getExternal_id(), resultBean.getAddress(), String.valueOf(lng), String.valueOf(lat));
                datas.add(bean);
            } else {
                failData.add(resultBean);
            }
        } catch (RestClientException e) {
            failData.add(resultBean);
        }
    }

(3)上面方法中我们对restTemplate加了一个自定义的MyMappingJackson2HttpMessageConverter实例,之所以自定义一个,是因为restTemplate不支持接口返回MediaType类型为text/javascript以及为text/html类型的返回值的转换,不加会报错信息:UnknownContentTypeException: Could not extract response: no suitable HttpMessageConverter found for response type [class GPSTest2$GeocoderResult] and content type [text/javascript;charset=utf-8],同时当返回html这种错误值时,会转换失败进入catch代码块中,我们需要收集起来,下次继续请求。MyMappingJackson2HttpMessageConverter类代码如下

    static class MyMappingJackson2HttpMessageConverter extends MappingJackson2HttpMessageConverter {

        public MyMappingJackson2HttpMessageConverter() {
            List<MediaType> mediaTypes = new ArrayList<>();
            mediaTypes.add(new MediaType("text", "javascript"));
            mediaTypes.add(new MediaType("text", "html"));
            setSupportedMediaTypes(mediaTypes);
        }
    }

五、成果展示及总结

不论是请求百度接口返回xml类型获取经纬度还是返回json类型获取经纬度,都会得到同样的结果,程序正确执行完成。

1、控制台输出

2、同时生成一个csv结果文件,使用excel打开部分结果如下

将拿到的结果文件导入数据库的新表中,写一个sql语句通过主键条件更新源表的经纬度字段就顺利完成任务。以上就是对地址转换经纬度的一点总结和分享,觉得不错的话,欢迎关注java基础笔记。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

卧龙不言

欢迎关注java基础笔记公众号

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值