Java爬统计局12位区划代码

有朋友需要获取全国2013年统计用区划代码和城乡划分代码,于是写了个爬虫抓数据。

仔细分析页面后,发现其特点是根据最终的区域代码,可以反推上级省、市等代码,故只保存最后一步数据。

第一次接触爬虫,边做边研究。只写了个单线程,下载了41分钟。

后来研究多线程爬虫,又写了个多线程爬知乎话题+回答的程序。由于暂时无法正确保存页面上各种程序语言的代码,半成品的程序就不放出来了。

下面是单线程下载统计局全国区划代码的源码,要改成多线程也不难。不过已经下载到了结果,就懒得再做无用功了。

package king.statitics;

import java.io.IOException;
import java.io.PrintStream;
import java.util.ArrayList;
import java.util.List;
import java.util.Map;
import java.util.TreeMap;

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;

public class GetNoAndAddress {
    // 由于每个网页层数未知,用List来保存每一层网页。
    // Map的第一个String为网址,第二个String为 代码和地址,用SEPARATOR隔开
    private static List<Map<String, String>> tempList = new ArrayList<Map<String, String>>();
    private static final String SEPERATOR = "|";
    private static Map<String, String> result = new TreeMap<String, String>();
   
    public static void main(String[] args) throws Exception {
        // 网址: 2013年统计用区划代码和城乡划分代码(截止2
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
您好,可以使用Java的Jsoup库来取国家统计局行政区划信息。具体步骤如下: 1. 打开国家统计局行政区划页面:http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/ 2. 使用Jsoup库获取页面内容,并解析出需要的信息。 3. 遍历解析出的信息,可以将其存储到数据库或者文件中。 以下是示例代码: ```java import org.jsoup.Jsoup; import org.jsoup.nodes.Document; import org.jsoup.nodes.Element; import org.jsoup.select.Elements; import java.io.IOException; public class Main { public static void main(String[] args) throws IOException { // 打开国家统计局行政区划页面 String url = "http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/"; Document doc = Jsoup.connect(url).get(); // 解析出需要的信息 Elements provinces = doc.select("tr.provincetr td a"); for (Element province : provinces) { String provinceName = province.text(); String provinceUrl = url + province.attr("href"); System.out.println(provinceName + " " + provinceUrl); Document provinceDoc = Jsoup.connect(provinceUrl).get(); Elements cities = provinceDoc.select("tr.citytr td a"); for (Element city : cities) { String cityName = city.text(); String cityUrl = url + city.attr("href"); System.out.println("\t" + cityName + " " + cityUrl); Document cityDoc = Jsoup.connect(cityUrl).get(); Elements counties = cityDoc.select("tr.countytr td a"); for (Element county : counties) { String countyName = county.text(); String countyUrl = url + county.attr("href"); System.out.println("\t\t" + countyName + " " + countyUrl); } } } } } ```
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值