此为2017清华大学地球系统科学系宫鹏教授团队研发的重大成果世界首套“2017年10米分辨率全球土地覆盖产品(FROM-GLC10)”爬虫下载爬虫分享。
一、参考网站
1、 全国各省10米分辨率的土地利用数据的制作与分享
2、世界首套2017年10米分辨率全球土地覆盖产品问世
3、关于地理数据收集与处理的基本工具推荐(2)—10m精度的全球土地覆盖数据下载
4、借助Python爬虫批量下载数据——以NASA和NOAA科研数据为例
5、HTML中tr,th和td的区别
6、tr、td形式的静态网页爬取-以爬取厦门银行理财产品为例(附代码可实现)
二、Python下载脚本
import urllib
from bs4 import BeautifulSoup
rawurl='http://data.ess.tsinghua.edu.cn/fromglc10_2017v01.html'
content = urllib.request.urlopen(rawurl).read().decode('ascii') #获取页面的HTML
soup = BeautifulSoup(content, 'lxml')
product = soup.find_all('tr')
print(len(product))
# soup中find_all方法寻找源代码中的“tr”A
# 全球有7046个多个文件
urls=[]
for row in product:
aa = row.find_all('td')[1].find("a").get('href')
urls.append(aa)
for i,url in enumerate(urls):
print("This is file "+str(i+1)+" downloading! You still have "+str(len(product)-i-1)+" files waiting for downloading!!")
file_name = "E:/landuse_2017/"+url.split('/')[-1] #文件保存位置+文件名
urllib.request.urlretrieve(url, file_name)
三、运行结果