Python Ecosystem之数据处理

高亮颜色说明:突出重点
个人觉得,:待核准个人观点是否有误
高亮颜色超链接

曲线平滑

从TensorBoard的summary中提取数据,并使用滑动平均法平滑曲线

20210915记:
  tensorboard_summary_data_process_statistics.py
  tensorboard_summary_data_process_smooth.py

正态检验 (Normality Test)

衡量数据的分散程度

20230411记:
  衡量数据的分散程度。谷歌检索"plot to measure the dispersion of data;"
  分散度量(Measures of Dispersion)度量数据的分散程度,即数据分布中的值有多远。范围(Range)、四分位距(IQR, Interquartile Range)、方差(Variance)和标准偏差(Standard Deviation/Squared Deviation)是用于理解数据分布的方法。

  • Range = Highest_value – Lowest_value;
  • IQR = Q3 - Q1;
  • 方差度量数据集中每个数据点与平均值的距离;
  • 标准差是原始值的方差的平方根,低标准差表示数据点接近均值。
  • 平均绝对偏差(Mean Absolute Deviation)的问题在于,它不是可微分的,而且它在正态分布中不如平方偏差(Squared Deviation)所拥有的数学属性表现好(???)。
  • 平方能够放大存在巨大偏差的数据点的影响。
  • 总体方差的计算公式中是除以n,样本方差的计算公式中是除以n-1,'-1’表示丢失了一个自由度的意思,因为在已知n-1个样本的时候,剩余的那个样本的取值会受到样本均值的约束,而不会受到总体均值的约束。

参考:

二级标题

  

待补充

  

待补充

  

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
GEDI1B是GEDI (Global Ecosystem Dynamics Investigation)卫星激光测高仪的数据格式之一。GEDI1B数据是由GEDI1A数据处理得到的,其中包含了校正后的地面高度信息。 下面是一个简单的python实现GEDI1B数据校正的示例: ```python import h5py import numpy as np # 打开GEDI1B数据文件 with h5py.File('GEDI1B_sample.h5', 'r') as f: # 获取数据集 elevation = f['/BEAM0000/elevation'] latitude = f['/BEAM0000/latitude'] longitude = f['/BEAM0000/longitude'] shot_number = f['/BEAM0000/shot_number'] # 获取校正系数 bias_correction = f['/BEAM0000/bias_correction_factor'] tx_pulse = f['/BEAM0000/tx_pulse_length'] rx_gain = f['/BEAM0000/rx_gain'] # 计算校正后的高度 corrected_elevation = elevation[:] * bias_correction[:] * tx_pulse[:] * rx_gain[:] # 保存校正后的数据为新的h5文件 with h5py.File('GEDI1B_corrected.h5', 'w') as f_out: # 创建数据集 dset_elevation = f_out.create_dataset('/BEAM0000/elevation', data=corrected_elevation) dset_latitude = f_out.create_dataset('/BEAM0000/latitude', data=latitude[:]) dset_longitude = f_out.create_dataset('/BEAM0000/longitude', data=longitude[:]) dset_shot_number = f_out.create_dataset('/BEAM0000/shot_number', data=shot_number[:]) ``` 这个示例代码打开一个GEDI1B数据文件,获取数据集和校正系数,并计算出校正后的高度数据。然后将校正后的数据保存为新的h5文件。 需要注意的是,这只是一个简单的示例,实际的GEDI1B数据校正需要考虑更多的因素,比如大气校正、地形校正等。实际的校正过程需要根据具体的数据和需求进行调整。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值