《Deep Air: Forecasting Air Pollution in Beijing, China》笔记

最新推荐文章于 2024-01-28 22:33:48 发布
最新推荐文章于 2024-01-28 22:33:48 发布
阅读量549 收藏 1
点赞数
分类专栏： 读书笔记 文章标签： 深度学习 人工智能 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/is80x86/article/details/125393920
版权

Vikram Reddy, Pavan Yedavalli, Shrestha Mohanty, Udit Nakhat

项目网站

Deep Air | UC Berkeley School of Informationicon-default.png?t=M5H6https://www.ischool.berkeley.edu/projects/2017/deep-air

代码

http://github.com/vikmreddy/deep-airicon-default.png?t=M5H6http://github.com/vikmreddy/deep-air

目录

1. 摘要

2. 引言

3. 理论背景

4. 数据

4.1 数据描述

4.2 预处理和特征

​编辑4.3 数据分割

5. 方法

5.1 持续模型基准

5.1.1 非线性回归

5.1.2 LSTM序列到标量（Sequence to Scalar）

5.2 预测模型

5.2.1 LSTM序列到序列

6. 实验和结果

6.1 开发集结果

6.1.1 调试（tuning）支持向量回归SVR（Support Vector Regressor）序列到标量和LSTM序列到标量（sequence to scalar）

6.1.2 调试LSTM序列到序列模型（Sequence to Sequence）

 6.1.3 特征选取PCA

6.2 测试集结果

7. 结论

7.1 见解

7.2 未来工作

8. 附录

8.1 训练集探索

1. 摘要

使用LSTM循环神经网络预测北京未来空气质量。

2. 引言

环境科学中的确定性模型寻求从分子层面了解空气污染物行为，模拟传播扩散模式。计算机科学和统计学的线性回归有局限。支持向量回归主要预测当前时间的污染而不是将来的污染。

3. 理论背景

简单RNN和LSTM RNN对比如下两图。

 

4. 数据

4.1 数据描述

2010到2014UCI、2015-2017中科院、2015-2017美国NOAA。

4.2 预处理和特征

经过单位统一、清洗等，经过预处理的数据集总结如下图，目标变量是pm2.5，维度是8×68870。

4.3 数据分割

数据分为四个数据集：训练、开发，和两个不关联的测试集。

5. 方法

5.1 持续模型基准

两个持续模型作为基准。一个持续模型利用之前一个或多个时间步预测下个时间步的目标变量。这一基准背后隐藏的概念驱动（以及假设）是所预测时间步与它之前的数据区别不大。换言之，数据在短期内持续不变。为预测下一小时或几小时的污染，考虑将气象学和污染特征设定为一个特定的时间延迟值（time lag value）。例如，如果想要理解过去10个小时的气象和污染数据如何影响下个小时的污染水平，将时间延迟值取10，预测小时取1.模型取了多个时间延迟值和预测小时数，使用均方根误差（RMSE）衡量它们的表现。

5.1.1 非线性回归

径向基函数作为核心的支持向量回归（Support Vector Regressor with a radial basis function kernel）。因数据有某种循环模式，故该非线性方法可能捕捉到其中的一些关系。

5.1.2 LSTM序列到标量（Sequence to Scalar）

采用了不同时间步长，包括1、3、4、6、8、10、15、25步；还进行了不同网络配置实验，包括改变层数、层类型、每层节点数、损失函数、批大小（batch size）和迭代次数。

5.2 预测模型

预测未来数小时或数天空气污染的模型。

5.2.1 LSTM序列到序列

使用LSTM编码器解码器（LSTM Encoder and Decoder）结构。未来的时间步数为定值。同样使用了不同网络配置，包括层数、每层节点数和批大小。

根据Geman等的研究，改变隐藏节点数可能减少过拟合和增加模型生成。可能的首要原则是将隐藏的宽度设置为输入输出维度之和的三分之二[Stuart Geman, Elie Bienenstock, and Ren´e Doursat. “Neural Networks and the Bias/Variance Dilemma”. In: Neural Comput. 4.1 (Jan. 1992), pp. 1–58. ISSN: 0899-667.DOI:10.1162/neco.1992.4.1.1.URL: http://dx.doi.org/10.1162/neco.1992.4.1.1.]。

输入的维度为30，输出12，故隐藏层数为(2/3)*42=14.即用过去30小时的数据预测将来的12个小时。实验结果告诉我们隐藏层维度大小应小于输入维度而大于输出维度。

下图展示了文章深度LSTM架构。

文章同样使用了早期停止策略，如限制迭代次数等，以减少过拟合。 

6. 实验和结果

6.1 开发集结果

6.1.1 调试（tuning）支持向量回归SVR（Support Vector Regressor）序列到标量和LSTM序列到标量（sequence to scalar）

 由图5可以看出，LSTM模型在长时间跨度的预测表现由于其他非线性方法，如支持向量回归。

图6显示文章模型在批大小为80时表现最佳。 

6.1.2 调试LSTM序列到序列模型（Sequence to Sequence）

 均方根误差在隐藏维度为24时最小，刚好是输入输出维度和的三分之二。

批大小为24时，运行时间最短，接下来将以该大小运行测试集。

 6.1.3 特征选取PCA

表1展示了各个变量对结果的影响比例。

6.2 测试集结果

 

 使用了开发集中最优超参数的模型应用到测试集，表2、3、4评价了其均方根误差（RMSE）和R方（R-squared）。调试好的模型隐藏维度和批大小都为24，这只是巧合， 需要未来进一步研究这两个参数间的联系对模型性能的影响。

图9是支持向量回归序列到标量（SVR Sequence to Scalar）4个过去小时预测将来1小时，在2014测试集表现，从表2可知RMSE为44.03.

 图10是LSTM序列到标量，4个过去小时预测将来1小时，在2014测试集表现，从表2可知RMSE为24.09.

图11是LSTM序列到序列，过去30小时预测将来5小时，从表4知，RMSE为44.15.

 

 图12是LSTM序列到序列，30过往时间步预测将来10时间步，从表4知，RMSE为74.8，模型表现下降。

 最后，过往120小时预测将来120小时，RMSE为108.18.

7. 结论

7.1 见解

当未来的时间步在2到10小时之间是误差最小。

对于城市政策（如交通票价制定）、传感器部署进而节约用电成本等起到作用。

7.2 未来工作

预测更长期的未来。

8. 附录

8.1 训练集探索

图14展示的一些特征，具备循环的模式，故作者试图使用非线性的模型来拟合数据。

 

l_BAT
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【论文阅读】Deep Inferential Spatial-Temporal Network for Forecasting Air Pollution Concentrations
weiwanshu的专栏
02-27 538
摘要： Deep Inferential Spatial-Temporal Network以解决空间和时间方面的非线性相关问题。使用inferential predictor、spatial predictor和temporal predictor进行了48小时天气预报，主要研究数据来源于北京地区35个站点和格网气象数据 目前的主要问题： 1、多因子问题 multiple factors...
北京空气质量数据集（2013年-2021年）.rar
05-14
北京空气质量数据集（2013年-2021年）.rar
采用LSTM预测北京未来7天的空气质量指数AQI（大家可以查阅未来真实结果进行比对）
热门推荐
haosen
04-20 1万+
摘要： 采用爬虫爬取了北京这个城市的空气质量指数日历史数据（爬取时间段为2018年1月1日至今天的前一天2020年4月19日），采用两年的历史数据作为训练集，2020年的数据作为测试集，最后采用2020年4月6日-4月19日的14天数据作为历史数据，去预测2020年4月20-27日的空气质量指数AQI。 输出结果已经打印出来，大家可以自行去查阅未来几天的AQI值进行比对。...
基于LSTM的空气质量指数预测
03-12
基于LSTM的空气质量指数预测，李映雪，温罗生，空气中的污染物浓度直接影响到空气质量指数（AQI），尤其是PM2.5，PM10等，它能影响能见度、并且对人体的心血管系统造成不良影响。为
深度强化学习AAP：DeepAir解决方案：使用深度强化学习的航空公司辅助设施的价格建议。 AAP是指航空公司的辅助定价
02-05
深度强化学习AAP：DeepAir解决方案：使用深度强化学习的航空公司辅助设施的价格建议。 AAP是指航空公司的辅助定价
论文笔记：Forecasting at Scale（Prophet）
qq_40206371的博客
01-05 2213
1 时间序列数据的特征 图 2：在 Facebook 上创建的事件数量。 每天都有一个点，点按星期几用颜色编码以显示每周周期。 这个时间序列的特征代表了很多业务时间序列：多重强季节性、趋势变化、异常值、假期效应。 很多时间序列数据都有共同的特征。 图 2 显示了 Facebook 事件的时间序列。 用户可以为事件创建页面、邀请他人参与互动。 在这个时间序列中有几个明显的季节性影响：每周和每年的周期，以及圣诞节和新年前后的明显下降。 ...
【时序预测】2、prophet：Forecasting at Scale | Python 文档教程
最新发布
呆呆的猫的博客
01-28 4257
prophet 超详细介绍 | python 教程
Time series analysis: forecasting and control
05-17
在给出的文件中提到的《时间序列分析：预测与控制》（Time Series Analysis: Forecasting and Control）是第四版，作者为乔治·E·P·博克斯（George E.P. Box）、Gwilym M. Jenkins和格雷戈里·C·伦塞尔（Gregory ...
Deep-Learning-in-Time-Series:时间序列分析中的深度学习
05-18
多个多步时间序列预测中的深度学习 该项目旨在利用深度学习来解决Kaggle竞争问题-网络流量时间序列预测（ ）。 PDF文件中将生成报告。 所有的python代码都在IPython笔记本中实现。 注意：比赛将于2017年11月13日...
机器学习-基于AIRMA模型对订单总额未来七天的预测
06-07
从时间上看，订单量时间序列有两个明显的特征： 1）周期性。每天订单量的变化趋势都大致相同，午高峰和晚高峰订单量集中； 2）实时性。当天的订单量可能会受天气等因素影响，呈现整体的上涨或下降； 预测可以反映未来司机成单的情况，能给运营部门及时调整有效的运营策略。预测又有好几种方向：基于订单总额的预测，基于乘客目的地预测，基于上车地点的供需预测等，这里阐述订单总额未来七天的预测。
Deep Learning for Time Series Forecasting - by Jason Brownlee
06-26
Deep Learning for Time Series Forecasting Predict the Future with MLPs, CNNs and LSTMs in Python Jason Brownlee 5 25 step-by-step lessons, 575 pages. 深度学习方法为时间系列预测提供了许多希望，例如...
Deep Learning for Time Series Forecasting
10-05
《深度学习用于时间序列预测》是一本探讨如何利用Python中的多层感知机（MLPs）、卷积神经网络（CNNs）和长短时记忆网络（LSTMs）进行未来预测的专著。时间序列分析在诸多领域，如金融、气象、能源、物联网等，都...
时间序列预测：Forecasting the Time Series of Apple Inc.'s Stock
08-05
在金融领域，时间序列预测被广泛应用于股票价格预测，其中，对于科技巨头苹果公司（Apple Inc.）的股票价格进行时间序列分析，可以帮助投资者、分析师以及其他利益相关者了解市场动态，预测股价走势，从而做出更为...
数据传输的三种数据类型（标量、序列、映射）
qq_21583681的博客
09-25 3134
标量、序列、映射，不管做什么开发，我们都离不开这三种数据类型。当然，这里的数据类型并不是程序中的数据类型不是sting、int等数据类型。它是一种总称的数据类型。 一、标量 标量（scalar），也就是一个单独的字符串（sting）或数字（numbers）。比如“北京”这个单独的词。 二、序列 序列（sequence），也就是若干个相关的数据按照一定顺序并列在一起，又叫数组
推荐系统中特征工程的自动化——Deep Crossing模型
晨月月的博客
02-05 4342
本文是（2016）Deep Crossing: Web-Scale Modeling without Manually Crafted Combinatorial Features笔记 主题：在搜索页面推荐广告 维度：用户、广告商、搜索平台 目标：展示用户最想看的广告 概念： query：搜索语句 Campaign：广告主在一段明确的期间里(如一年)，推出一系列拥有共同
Deep Dream模型
AI_girl的博客
06-28 1144
Deep Dream是Google公司在2015年公布的一项有趣的技术，在训练好的神经个网络中，只需要设定几个参数就可以通过这项技术生成一张图像，生出的图像不仅令人印象深刻，还能帮助我们更好的理解神经网络的运行机制。1生成原始的Deep Dream图像原始的DeepDream模型只需要优化ImageNet模型卷积层某个通道的激活值就可以了，因此应在TensorFlow中导入一个ImageNet图像...
利用LSTM进行空气指数预测
wzcspace
05-16 1万+
毕设终于结束，感谢指导老师以及团队大伙们的辛苦付出，是时候总结一下毕设的内容了。 我们团队的毕业设计是关于利用递归神经网络模型LSTM（long-short-term memory）对中国主要城市的空气质量指数进行预测，并将LSTM与RLS进行比较，论文的主要内容是数据分析，机器学习。 之前对于机器学习一片空白的我在经历了毕业设计之后，接触到了几个比较常见的模型，接触到了tensorflow以及k...
time_slots = [forecast_time_obj + datetime.timedelta(minutes=15 * i) for i in range(forecasting_period * 96)] df = pd.DataFrame({'date': time_slots[0:forecasting_period * 96], 'load（kw）': predict_sum[0:forecasting_period * 96]}) 优化代码
05-26
可以将时间列表和预测结果列表合并为一个二维列表，然后使用pandas.DataFrame.from_records()方法来创建DataFrame。这样可以避免使用显式的循环，提高代码效率。以下是优化后的代码示例： ``` import datetime import pandas as pd forecast_time_obj = datetime.datetime.now() # 预测开始时间 forecasting_period = 7 # 预测周期，单位为天 predict_sum = [1, 2, 3, 4] # 预测结果列表，仅作示例 time_slots = [[forecast_time_obj + datetime.timedelta(minutes=15 * i), predict_sum[i]] for i in range(forecasting_period * 96)] df = pd.DataFrame.from_records(time_slots, columns=['date', 'load（kw）']) ``` 这里使用了列表推导式生成时间和预测结果的二维列表，然后直接传入pandas.DataFrame.from_records()方法中创建DataFrame。注意，需要指定每一列的名称，可以通过columns参数来实现。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值