翻滚的老鼠屎

本文分享一个对Keras版GAT源码的分析。GAT原文：https://arxiv.org/abs/1710.10903，建议参考着知乎superbrother大神的文章进行理解。TensorFlow版可以看：https://github.com/PetarV-/GAT源代码 github：https://github.com/danielegrattarola/keras-gat1 u...

译自How to Develop LSTM Models for Multi-Step Time Series Forecasting of Household Power Consumption~ 随着智能电表的兴起和太阳能电池板等发电技术的广泛应用，有大量可用的用电数据。这些数据代表了一系列与电力相关的多元时间序列，进而可以用来建模甚至预测未来的用电量。 与其他机器...

转眼间来到了二年级下学期，马上就要面临找工作的巨大压力。起风了，唯有努力生存~愿努力可以有所成效。 这一篇想要讲一讲Attention机制。文章框架主要翻译自How Does Attention Work in Encoder-Decoder Recurrent Neural Networks，也参考了一些笔者觉得比较不错的博客。 Attention（注意力机制）是为了提...

老规矩，主要框架译自How to Use the TimeDistributed Layer for Long Short-Term Memory Networks in Python~，中间加了一点点自己的理解。 长短时记忆网络(LSTMs)是一种流行且功能强大的循环神经网络(RNN)。它们很难配置和应用于任意序列预测问题，即使使用定义良好且“易于使用”的接口(如Python中...

译自Machine Learning Mastery~ 模型平均是一种集成技术，其中多个子模型对组合预测的贡献相等。 利用子模型的预期性能，加权各子模型对组合预测的贡献，可以改善模型平均。通过培训一个全新的模型来学习如何最好地组合来自每个子模型的贡献，可以进一步扩展这一点。这种方法被称为Stacked Generalization(堆栈泛化)，或简称Stacking，可...

2019年的第一篇博客。主要译自Machine Learning Mastery，加上了一点点自己的想法。如有问题，欢迎批评指正~ 消失梯度问题是在训练深度神经网络时可能遇到的不稳定问题之一。它描述了深度多层前馈网络或循环神经网络无法将有用的梯度信息从模型的输出端传播回模型输入端附近的层的情况。其结果是，具有许多层的模型通常无法在给定的数据集上学习或过早地收敛到较差的解决方案。...

Hi,这里是一只殚精竭虑的老鼠屎。最近在处理公交数据，模型效果非常不理想。过程中学习了师兄留下的lstm做的金融数据预测，使用的是keras框架，这里整理一下。这篇博客里面交代了包括数据的处理、模型搭建、模型调参、模型评估等重要环节，十分适合新手入门。师兄留下的jupyter notebook出处不详。目录1 准备工作1.1 引入相关库1.2 引入参数2 构建模型...