wget无法批量下载气象数据的解决方案(Python、迅雷批量下载气象数据方法)

如何批量下载气象数据

最常用的除了CMIP计划或者是ECMWF的数据可以直接使用网页html下载以外,应该就是wget下载方法了

网站不支持wget下载

我要从一个挪威网站批量下载1751-2501年的数据(由于数据可能不方便透露,所以隐去了网站信息,

https://***************************************

代替)。此网站不支持wget下载,所以小编使用以下两种方法,分享给大家:

Python批量下载方法

首先先找到要批量下载数据所在的具体网页,一般只需要把鼠标放在那个位置可以显示。复制后,将数据文件名共同的部分写出来(如这里的NBF.h0.),之后通过循环把年、月的信息填入,最后加入文件类型.nc文件。

#!/usr/bin/env python
# -*- coding: utf-8 -*-

# urllib2_urlopen.py
import urllib.request 
import urllib.error
import os

def getLegalUrl(year,mon):
    base_url="https://***************************************"
    url_preletter='NBF.h0.'
    try:
        url=base_url+url_preletter+str(year)+'-'+str(mon).zfill(2)+'.nc'
        f=urllib.request.urlopen(url)
        return url
    except urllib.request.URLError:
        return " "

def download(url,year,mon):
    f=urllib.request.urlopen(url)
    data=f.read()
    url_preletter = 'NBF.h0.'
    pathgz = "E:\\data\\"
    with open(os.path.join(pathgz,url_preletter+str(year)+'-'+str(mon).zfill(2)+'.nc'),'wb') as file:
        file.write(data)

if __name__ == '__main__':
    for year in range(1750,2501):
        for mon in range(1,13):
            url=getLegalUrl(year,mon)
            if url=="":
                with open("download.log",'a') as log:
                    log.write(str(year)+str(mon).zfill(2)+'not found\n')
            else:
                download(url,year,mon)`
                `

由于此代码实际上一边读取文件一边重新写入文件,但实际上这样会下载变慢,而且网络不稳定经常会使得数据下载中断。

迅雷快速下载

迅雷下载
使用迅雷下载比较快。
点击新建---- 添加链接或口令----- 添加批量任务
下一步
在通过URL过滤处输入之前找到的气象数据对应网址,最后气象数据应该有一个表示年月日的字符串

https://www.ncei.noaa.gov/data/blended-global-sea-surface-wind-products/access/winds/daily/1987/uv19870709.nc

是一个气象文件

把之后重复的部分uv19870709.nc用通配符代替,比如uv19870709.nc中的87使用通配符*代替,就是uv19**0709.nc,可以下载20世纪(19开头)所有的日期为0709的数据。

但是迅雷不好的一点是只有一处通配符,所以不能像代码一样双重循环。所以你需要固定一个时间单位(年or月or日),答主下载800年的数据的话,通配符给了年。如果小于12年,通配符可以给月。如果到日数据可能就还是不太方便。

  • 2
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值