自建 | 地理与气象数据分析(geographic and meteorological data analysis)(gma)的说明与使用

写在前面

  对于大部分地学或气象学的学者来说,数据处理是一个很大的工程,动辄数小时或者数天的数据处理时间。如果没有很好的工具或者方法,在面对多时序(例如时序遥感数据),大尺度(例如全国范围)等数据分析研究时,就显得极为困难,因为数据处理本身就非常的耗时耗力。

  几年前读研究生时,我第一次初次接触遥感数据(以及气象数据),作为领域新人,面对庞大与复杂的数据,除了对数据、数据处理过程的一脸茫然,也对后续的研究不知所措。当然,在老师的带领下,逐渐入道IDL,并利用IDL完成了所有数据的处理,开展了相关的研究;也学会了ENVI、Arcgis之类的工具;顺利的毕了业。

  诚然,研究生阶段使我收获颇多。对数据以及数据处理也有了长远的进步,例如:可以使用批量处理VBA处理气象站点数据;利用IDL处理栅格数据(后续全部转为Python实现);学会了SPPS、Origin等专业软件(虽然前期利用Python绘图,可能是因为懒,或者Origin过于方便,后期全部转为了Origin);等等。也算为我现在的想法奠定了基础。

  不知何时起,萌生了一种将我所接触的遥感、气象数据处理方法与算法写成函数包汇总在一起的想法。后来工作过程中的实践也证明,这种方法对提高工作效率,对个人的成长进步非常有效。所以才有<地理与气象数据分析(geographic and meteorological data analysis)>gma这个Python函数包。

  目前,gma可实现 栅格数据处理(例如镶嵌、裁剪、重采样、重投影、格式转换、数据融合等),矢量数据处理(例如裁剪、擦除、交集、融合、重投影等),一些缺失值插补算法(例如线性插值)、平滑算法(例如SG平滑),一些指数算法(例如NDVI、ET0等等) 以及一些 系统交互操作 ,并配有中文的函数帮助说明,这些功能算法已经封装,只需调用对应的函数,设置相应的参数即可实现。后续也会逐步补充更多的算法和功能。

  希望可以得到各位专家、同仁和朋友的支持与信赖,也希望得到各位的认可以及反馈。

0 gma安装

0.1 Python环境

  建议安装Anaconda创建Python环境。Anaconda指的是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。
  本文采用Anaconda的Windows版,版本为(点击下载):

Anaconda3 2021.05(Python 3.8.8 64-bit)

  gma需求的 Python版本应 >= 3.8

0.2 依赖库

  gma的构建依赖gdal,numpy,pandas和scipy等库,这些库是gma实现功能的基础。由于gdal不是一个纯Python库,需要下载whl包手动安装,获取地址:

https://www.lfd.uci.edu/~gohlke/pythonlibs/

从该网站下载对应版本GDAL的WHL包。Python 3.8 可下载 < GDAL-3.3.3-cp38-cp38-win_amd64.whl > 版本。

  例如下载至D盘根目录,则文件路径为 D:\GDAL-3.3.3-cp38-cp38-win_amd64.whl

  打开conda窗口(一般为 开始 - 所有程序 - Anaconda3 (64-bit) - Anaconda Powershell Prompt),使用以下命令安装gdal(本文均使用默认环境):

pip install "D:\GDAL-3.3.3-cp38-cp38-win_amd64.whl"

0.3 安装gma

  gma已经上传至pypi,可以直接在conda或Windows终端中输入以下命令安装:

pip install gma

  在安装gma时,依赖的numpy,pandas和scipy如果不存在则会自动安装(需联网)。
  检查gma版本或是否安装成功:

(base) PS C:\Users\xxxx> conda list gma
# packages in environment at C:\Users\xxxx\anaconda3:
#
# Name                    Version                   Build  Channel
gma                       1.0.0                    pypi_0    pypi

  出现gma的详细信息则说明gma已经成功安装。

1 gma组织方式

  下表列出了gma库的组织结构。

gma

  • algorithm       ||栅格、矢量操作的基础算法
    • raster          ——栅格处理, rasp调用的算法
    • vector          ——矢量处理,vesp调用的算法
  • Relation      || 关键 关联参数 设置
    • error          ——输入参数检查,错误提示。
    • key          ——栅格/矢量 处理的高阶参数设置,例如压缩超大TIFF支持等。
    • palmer          —— 帕尔默旱涝指数及其相关指数的原始算法(尚未整合,暂不可用)。
    • utils          ——palmer的依赖包。
  • index      || 遥感、气象指数算法。
  • math      || 一些数学方法。
  • osf      || 系统交互操作。
  • rasp      || 栅格处理函数包。
  • vesp      || 矢量处理函数包。

2 gma函数简介

2.1 index指数运算

表 2.1 index指数运算(基于数组)主要函数简介
模块函数引用(简版)说明解释
indexEVIgma.index.EVI【EVI】增强植被指数
NDBIgma.index.NDBI【NDBI】归一化建筑指数
NDWIgma.index.NDWI【NDWI】归一化水指数
NDVIgma.index.NDVI【NDVI】归一化植被指数
PM_ET0gma.index.PM_ET0【PM_ET0】Penman-Monteith 法作物参考蒸散量
TVDIgma.index.TVDI【TVDI】温度植被干旱指数

2.2 math数学运算

表 2.2 math数学运算主要函数简介
模块函数/类方法引用(简版)说明解释
math_DFToNumeric gma.math._DFToNumeric【强制转换为数字】 强制将 <数据帧> 中的数据转换数字, 其中不能转换为数字的字符串将被转换为 NAN
FillNoData gma.math.FillNoData【填充缺失值】 对缺失值或异常值值进行插值替换
SmoothSavitzkyGolaygma.math.Smooth.SavitzkyGolay 【SavitzkyGolay】利用SavitzkyGolay方法对数据进行平滑
MovingAveragegma.math.Smooth.MovingAverage 【滑动平均】利用滑动平均法对数据进行平滑
EvaluationRMSEgma.math.Evaluation.RMSE【RMSE】均方根误差
NRMSEgma.math.Evaluation.NRMSE 【NRMSE】归一化均方根误差
Dgma.math.Evaluation.D 【D】 D指标
rgma.math.Evaluation.r【r,P】 相关系数和显著性水平
R2gma.math.Evaluation.R2 【R2 决定系数
MaxAEgma.math.Evaluation.MaxAE【MaxAE】最大绝对误差
Selectgma.math.Evaluation.Select【选择方法】选择Evaluation中需要计算的一个或多个评价指标进行计算
Methodsgma.math.Evaluation.Methods【记录方法】记录Evaluation类中所有的评估方法

2.3 osf系统交互

表 2.3 osf系统交互主要函数简介
模块函数/类方法引用(简版)说明解释
osfGetPath gma.osf.GetPath【获取路径】查找目标文件
Zip gma.osf.Zip【压缩】压缩文件或文件夹为 .zip 文件
UnZip gma.osf.UnZip【解压缩】解压缩 .zip 文件
DateSeries gma.osf.DateSeries【日期序列】构造一个日期序列
RenameModifygma.osf.Rename.Modify【修改】将原有文件(夹)名修改为新名
Replacegma.osf.Rename.Replace【替换】替换原文件(夹)名中字符串后作为新文件(夹)名
Interceptgma.osf.Rename.Intercept【截取】截取文件(夹)名中的部分字符串作为新文件(夹)名

2.4 rasp栅格处理

表 2.4 rasp栅格处理主要函数简介
模块函数/类方法引用(简版)说明解释
raspBandSynthesis gma.rasp.BandSynthesis【文件合并】单波段文件合成多波段文件
BandDecomposition gma.rasp.BandDecomposition【波段分解】多波段文件拆分为单波段文件
Clip gma.rasp.Clip【裁剪】按矢量边界裁剪栅格
ToOtherFormat gma.rasp.ToOtherFormat【格式转换】 一种栅格格式转换为另一种栅格格式
Mosaic gma.rasp.Mosaic【影像镶嵌】将多个栅格数据集合并到一个新的栅格数据集中
Resample gma.rasp.Resample【重采样】更改栅格数据的空间分辨率
Reproject gma.rasp.Reproject【重投影】 将空间数据从一种坐标系投影到另一种坐标系
ChangeDataType gma.rasp.ChangeDataType【数据类型转换】 改变栅格的数据类型。
MultiSDSToTif gma.rasp.MultiSDSToTif【多维数据转GTiff】将含有子数据集的多维数据提取为GTiff
ToVector gma.rasp.ToVector【栅格转矢量】将栅格数据转换为矢量数据
WriteRaster gma.rasp.WriteRaster【写出栅格】将numpy数组保存为栅格
GenerateOVR gma.rasp.GenerateOVR【构建栅格金字塔】为GTiff文件构造.ovr栅格金字塔,或为其他类型的栅格数据强制构造.ovr金字塔
OrthophotoCorrection gma.rasp.OrthophotoCorrection【正射矫正】根据有理多项式系数(RPC)对影像进行正射校正
Deformation gma.rasp.Deformation【流程化处理】完成镶嵌-裁剪-重采样-重投影-格式转换等其中一个或多个功能
FusionPansharpengma.rasp.Fusion.Pansharpen【Pansharpen】对全色影像和多光谱影像基于Pansharpen方法进行融合
AddColorTable gma.rasp.AddColorTable【添加色彩映射表】为栅格数据添加色彩映射

2.5 vesp矢量处理

表 2.5 vesp矢量处理主要函数简介
模块函数引用(简版)说明解释
vespSplitgma.vesp.Split【矢量文件分解】将矢量文件的每个要素拆分为单个文件
Checkgma.vesp.Check【检查】矢量文件有效性检查
ToRastergma.vesp.ToRaster【矢量转栅格】将矢量图层转换为栅格文件
Clipgma.vesp.Clip【裁剪】矢量裁剪矢量
Erasegma.vesp.Erase【擦除】从第一个矢量中去除与第二个矢量交叉的部分
Intersectiongma.vesp.Intersection【交集】取两个矢量的交集
Uniongma.vesp.Union【融合】取两个矢量的并集
Updategma.vesp.Update【更新】用一个矢量更新另一个矢量
ToOtherFormatgma.vesp.ToOtherFormat【格式转换】一种矢量格式转换为另一种矢量格式
Reprojectgma.vesp.Reproject【重投影】转换矢量格式的投影

3 key默认参数

默认参数已经内置。下表仅列出gma定义了的参数,后期可能会对其进行修改。

表 3 key默认参数设置简介
变量类型说明详细介绍
RasterFormat字典支持的栅格数据驱动‘AAIGrid’, ‘BT’, ‘CALS’, ‘COG’, ‘DTED’, ‘EHdr’, ‘ENVI’, ‘ERS’, ‘EXR’, ‘FIT’, ‘GIF’, ‘GPKG’, ‘GRIB’, ‘GS7BG’, ‘GSAG’, ‘GSBG’, ‘GTiff’, ‘HDF4Image’,‘HF2’, ‘HFA’, ‘ISCE’, ‘ISIS2’, ‘ISIS3’, ‘JP2OpenJPEG’, ‘JPEG’, ‘LAN’, ‘MBTiles’, ‘XPM’, ‘XYZ’, ‘netCDF’, ‘MFF2’, ‘MRF’, ‘NITF’, ‘PAux’, ‘PCIDSK’, ‘PCRaster’, ‘PNG’, ‘RST’, ‘Rasterlite’, ‘SIGDEM’, ‘USGSDEM’, ‘VICAR’, ‘VRT’
VectorFormat字典支持的矢量数据驱动‘ESRI Shapefile’, ‘PCIDSK’, ‘PDS4’, ‘PDF’, ‘MBTiles’, ‘MapInfo File’, ‘Memory’, ‘CSV’, ‘GML’, ‘LIBKML’, ‘KML’, ‘GeoJSON’, ‘OGR_GMT’, ‘GPKG’, ‘SQLite’, ‘WAsP’, ‘FlatGeobuf’, ‘Geoconcept’, ‘GeoRSS’, ‘ODS’, ‘XLSX’, ‘JML’, ‘VDV’, ‘MVT’, ‘MapML’
DataType字典数据类型‘未知类型’: 0, ‘8位无符号整型’: 1, ‘16位无符号整型’: 2, ‘16位整型’: 3, ‘32位无符号整型’: 4,‘32位整型’: 5, ‘32位浮点’: 6, ‘64位浮点’: 7, ‘16位复整型’: 8, ‘32位复整型’: 9,‘32位复浮点型’: 10, ‘64位复浮点型’: 11
ResampleMethod字典重采样方法0: ‘Nearest Neighbour’, 1: ‘Bilinear’, 2: ‘Cubic’, 3: ‘CubicSpline’,4: ‘Lanczos’, 5: ‘Average’, 6: ‘RMS’, 7: ‘Mode’
FeatureType字典矢量要素类型‘未知’:0,‘点’:1, ‘线’:2, ‘面’:3, ‘多点’:4, ‘多线’:5, ‘多面’:6
GetGTiffOptions函数GTiff的创建参数1. 不生成 ESRI 世界文件(.tfw )。
2. 不生成(.RPB)文件来描述 RPC(有理多项式系数)。
3. 不设置数据位深(NBITS)。
4. 默认 ‘LZW’ 压缩。
5. 默认通过估算生成文件大小来确定是否生成 BIGTIFF 文件。
GenRCOptions函数根据栅格驱动生成创建选项
GetRasterEXTFromDriver函数根据栅格驱动格式返回扩展名
GetSHPOptions函数ESRI Shapefile 的创建参数1. 默认创建矢量文件的字段编码为’UTF-8’。
2. 自动调整字段大小。
3. 不强制解除 ‘.SHP’、’.DBF’ 文件2GB大小的限制。
4. 不生成空间索引文件(.qix)。
GenVCOptions函数根据矢量驱动生成创建选项
GetVectorEXTFromDriver函数根据矢量驱动格式返回扩展名

4 gma函数帮助

  为了使gma使用更加简单直观,gma中所有的函数帮助均提供中文帮助。例如:

import gma
help(gma.rasp.Clip)

  中文帮助如下:

Help on function Clip in module gma.rasp:

Clip(InFile, OutFile, CutLineFile, InNoData=None, OutNoData=None, MaskBoundary=True, OutFormat='GTiff')
    简介
    ----------
    按矢量裁剪栅格。
    
    参数
    ----------
    InFile: str。输入栅格路径。
    
    OutFile: str。输出栅格路径。
    
    CutLineFile: str。裁剪矢量文件路径。
    
    **可选参数
    ----------
    InNoData = number。输入栅格的无效值。默认不指定(None)无效值。
    
    OutNoData = number。输出栅格的无效值。默认不指定(None)无效值。
    
    MaskBoundary = bool。是否掩膜边界外数据。默认掩膜(True)。
    
    OutFormat = str。输出文件格式,默认为 'GTiff'。其他格式详见 ToOtherFormat 函数。

  其他内容后续会逐一介绍和说明。感谢大家理解。详细的函数帮助可见:自建 | gma函数详细帮助 或利用help调出相关帮助,本文不在详细解释。

写在最后

  由于时间和精力的限制,目前可用的函数还不完善。部分函数为了gma的构建进行了修改,还未完成完整的测试。如果存在问题,我会及时进行修复。
  库的构建是一个漫长和持续的过程,后续gma会添加更多的函数方法,以期使地理处理过程更加的简单方便。
  近期的gma完善计划如下:

December 2022 February March April May June July August 加入DEM处理函数 加入气象指标函数 优化、修改 现有计划 gma近期完善内容

作者简介

  洛,毕业于中国农业科学院,是一名不见经传的小小算法工程师,家乡河南洛阳,当前在北京从事一份还凑活的工作。目前致力于完成一套中文版开源的遥感、气象及相关算法体系(简单来说就是汇集其他优秀的Python库,将常用的功能封装好),使各类常用流程简单化。

  期待与各位同学、同事与朋友的共同进步。有需求或者疑问可联系微信:Luo_Suppe。

  • 21
    点赞
  • 63
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 18
    评论
评论 18
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

洛的地理研学

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值