![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 73
机器鱼
这个作者很懒,什么都没留下…
展开
-
tensorflow.keras下粒子群优化BP网络初始权重用于分类模型
基于tensorflow.keras,采用粒子群算法对多层神经网络的权重实现寻优原创 2023-04-28 22:17:51 · 393 阅读 · 1 评论 -
基于自注意力机制的LSTM多变量负荷预测
在之前使用长短期记忆网络构建电力负荷预测模型的基础上,将自注意力机制 (Self-Attention)融入到负荷预测模型中。具体内容是是在LSTM层后面接Self-Attention层,在加入Self-Attention后,可以将负荷数据通过加权求和的方式进行处理,对负荷特征添加注意力权重,来突出负荷的影响因数。结果表明,通过自注意力机制,可以更好的挖掘电力负荷数据的特征以及变化规律信息,提高预测模型的性能。原创 2023-01-01 10:49:39 · 4311 阅读 · 7 评论 -
麻雀优化CNN超参数用于回归MATLAB
MATLAB采用麻雀优化算法优化CNN超参数用于回归预测原创 2022-10-26 19:58:12 · 3253 阅读 · 3 评论 -
基于EMD-HHT包络谱与堆栈降噪自编码SDAE轴承故障诊断
0.引言针对滚动轴承故障问题,提出一种基于经验模态分解–希尔伯特(empirical mode decomposition-Hilbert ,简称EMD-Hilbert)包络谱和堆栈自动编码器(Stack denoise auto-encoder,简称SDAE)的滚动轴承故障识别方法。该方法首先对滚动轴承各状态振动信号进行 EMD,然后选取前5个敏感本征模态函数 (intrinsic mode function,IMF),并对其进行 Hilbert 变换求取包络谱。最后将各状态振动信号的...原创 2022-03-12 16:31:55 · 3409 阅读 · 8 评论 -
基于鲸鱼优化深度混合核极限学习机的故障诊断方法
目录1-算法原理1.1 深度核极限学习1.2 深度混合核极限学习机1.3问题引出2-应用2.1 数据准备2.2 数据处理2.3 DHKELM分类2.4 WOA-DHKELM分类3-还有更多在博客(这里)里我们讲述了粒子群优化深度核极限学习机,今天我们继续对其进行改进:原始的深度核极限学习机顶层采用核极限学习机进行分类,现在我们将其改成混合核的极限学习机(线性核、RBF、多项式、小波核两两组合),因为应用了多个核函数,相比于之前的超参数更多,手工调参较为困难..原创 2022-03-12 12:07:00 · 4743 阅读 · 1 评论 -
MATLAB麻雀优化CNN超参数分类
在CNN分类器模型的构建中,涉及到特别多的超参数,比如:学习率、训练次数、batchsize、各个卷积层的卷积核大小与卷积核数量(feature map数),全连接层的节点数等。直接选择的话,很难选到一组满意的参数,因此可以用优化算法进行超参数优化,虽然过程比较慢,但是总比自己无脑试的效果好。 基于此思想,本文采用麻雀优化算法,对CNN上述9个超参数进行优化。1,麻雀优化算法原理 麻雀优化是2020年提出来得,具体原理:原理点这里2、麻雀优化CNN的...原创 2021-07-26 00:07:02 · 6943 阅读 · 24 评论 -
Python的遗传算法GA优化深度置信网络DBN超参数回归预测
DBN超参数众多,包括隐含层层数、各层节点数、无监督预训练阶段的训练次数及其学习率、微调阶段的训练次数及其学习率、与Batchsize,如果采用SGD相关优化器,还有动量项这个超参数。总之就是特别多,手动选择的话很难选到最佳超参数组合,为此采用遗传算法对上述超参数进行优化。之前写过MATLAB版本的DBN超参数优化,今天这个是python/torch版本的DBN超参数优化。具体运行环境python36、torch1.2。 话不多说,直接上结果。数据结构是...原创 2021-07-22 11:41:27 · 7183 阅读 · 19 评论 -
Window10手把手带你YOLOV5的火焰烟雾检测+tensorrt量化加速+C++动态库打包
0.引言 本人配置:win10,python3.6、 torch1.7+cu110 、cuda11.0、 cudnn8.0.4.30、TensorRT-7.2.3.4、 vs2019,cmake3.15.5整篇博客包括以下几个方面1)基于python的yolov5实现火焰烟雾模型的训练 2)将训练好的模型转为tensorrt所需要的engine文件 3)基于c++实现模型推理与动态库打包1.yolov5模型训...原创 2021-07-14 11:55:49 · 6015 阅读 · 11 评论 -
基于粒子群优化深度核极限学习机的故障诊断方法
在博客(https://blog.csdn.net/qq_41043389/article/details/100089826)里我们讲述了深度极限学习机,今天我们对其进行改进:原始的深度极限学习机顶层采用极限学习机进行分类,我们将其改成核极限学习机,因为应用了核函数,将低维非线性不可分的数据特征映射到高维线性可分,因此能够划分的更加精准。其主要步骤如下:步骤1:利用极限学习机与自动编码器相结合,形成极限学习机-自动编码器(ELM-AE),结构如图1,将ELM-AE作为无监督学习的基础单元对输入数据原创 2021-07-13 10:58:49 · 2966 阅读 · 4 评论 -
基于粒子群优化深度极限学习机的故障诊断方法
深度极限学习机(DELM)目前主要含两种基本结构:1、利用传统深度学习框架(主要是堆栈自动编码器,或者是深度置信网络)进行数据的深度自适应特征提取,而后将获得的特征输入至极限学习机及其变种中进行分类或回归;2、利用极限学习机与自动编码器相结合,形成极限学习机-自动编码器(ELM-AE),结构如图1,将ELM-AE作为无监督学习的基础单元对输入数据进行训练与学习,并保存ELM-AE由最...原创 2019-08-27 11:04:43 · 7194 阅读 · 8 评论 -
鲸鱼WOA优化注意力机制的BiLSTM用于负荷预测
本文提出基于注意力机制的双向LSTM用于负荷预测,简称BiLSTM-Attention,提出了一种基于 Attention 机制的BiLSTM短期电力负荷预测方法,该方法将历史负荷数据作为输入,建模学习特征内部动态变化规律,并引入Attention 机制通过映射加权和学习参数矩阵赋予Bilstm隐含状态不同的权重,减少历史信息的丢失并加强重要信息的影响,简称BiLSTM-Attention短期负荷预测模型。同时,针对该模型超参数选择困难的问题,提出利用ssa算法实现该模型超参数的优化选择。简单的介.原创 2021-06-04 14:29:54 · 7745 阅读 · 31 评论 -
基于注意力机制的 CNN-BiGRU 短期电力负荷预测方法
提出了一种基于 Attention 机制的卷积神经网络(convolutional neural network,CNN)-GRU (gated recurrent unit)短期电力负荷 预测方法,该方法将历史负荷数据作为输入,搭建由一维卷 积层和池化层等组成的 CNN 架构,提取反映负荷复杂动态变 化的高维特征;将所提特征向量构造为时间序列形式作为 GRU 网络的输入,建模学习特征内部动态变化规律,并引入 Attention 机制通过映射加权和学习参数矩阵赋予 GRU 隐含原创 2021-06-03 11:04:48 · 14814 阅读 · 15 评论 -
基于MATLAB的深度自动编码器的无监督轴承异常检测
基于MATLAB的DeepLearnToolbox工具箱(https://github.com/rasmusbergpalm/DeepLearnToolbox),本文在此基础上改成深度自动编码器用于无监督学习,即含有多个隐含层的自动编码器,其输入=输出,简称DAE。后续将其用于轴承故障的异常检测中。1.相关原理图1 DAE初始化示意图 对于一个含n个隐含层的DAE,训练时分为预训练与微调两个阶段。预训练阶段时,相邻两层可以通过采用一个单隐层的自动编码器(AE)进...原创 2021-05-23 12:52:45 · 3323 阅读 · 10 评论 -
基于小波时频图与MLP-Mixer的轴承故障诊断
特征提取部分用到了matlab时频图变换工具箱,故障诊断采用新出的MLP-Mixer分类,这一部分用的是pytorch1.6 传统轴承故障诊断是采用各种特征提取方法对一维轴承信号进行特征提取,如HHT包络谱,FFT频谱,小波能量谱等,变换后的特征依旧是一维数据。本文采用小波时频图将一维轴承信号转换为2维(3通道真彩图)的时频图,然后以60*60*3作为MLP-Mixer的输入实现故障诊断分类,测试集精度有99.5%。 1,数据准备 采用西储大学轴承故障诊断数...原创 2021-05-21 07:26:14 · 2626 阅读 · 3 评论 -
基于小波时频图与VIT vision transformer的轴承故障诊断
特征提取部分用到了matlab时频图变换工具箱,故障诊断采用Google 新出的MLP-Mixer 分类,这一部分用的是pytorch1.6 传统轴承故障诊断是采用各种特征提取方法对一维轴承信号进行特征提取,如HHT包络谱,FFT频谱,小波能量谱等,变换后的特征依旧是一维数据。本文采用小波时频图将一维轴承信号转换为2维(3通道真彩图)的时频图,然后以60*60*3作为CNN的输入实现故障诊断分类,测试集精度有99.5%。 1,数据准备 采用西储大......原创 2021-05-20 17:16:39 · 6142 阅读 · 11 评论 -
基于同步挤压小波降噪与贝叶斯优化长短时记忆网络的时间序列预测
长短时记忆网络LSTM在针对短时时间序列预测问题上近来年受到大家的关注,但由于该方法为深度学习方法,通常面临着众多超参数的影响,而众所周知,关于深度学习超参数的设置并没有一直明确的指导方针,大多采用经验方法,比如学习率1e-3,1e-4啥的,迭代次数根据loss曲线的变化等进行设置,这种方法说简单的就是无限尝试,找到效果比较好的一组,耗时耗力。为此,本文将采用贝叶斯框架对 LSTM进行参数优化 , 同时采用同步挤压小波SWT对原始数据进行滤波降噪,并采用降噪会的数据进行建模,最后用实例验证...原创 2021-02-24 14:19:52 · 1985 阅读 · 2 评论 -
基于同步挤压小波降噪与改进麻雀优化长短时记忆网络的时间序列预测
长短时记忆网络LSTM在针对短时时间序列预测问题上近来年受到大家的关注,但由于该方法为深度学习方法,通常面临着众多超参数的影响,而众所周知,关于深度学习超参数的设置并没有一直明确的指导方针,大多采用经验方法,比如学习率1e-3,1e-4啥的,迭代次数根据loss曲线的变化等进行设置,这种方法说简单的就是无限尝试,找到效果比较好的一组,耗时耗力。为此,本文将采用改进的麻雀搜索算法ISSA对 LSTM进行参数优化 , 并用实例验证表明 , ISSA-LSTM 模型的预测效果。 ...原创 2021-01-28 11:02:36 · 4942 阅读 · 9 评论 -
手把手实现MATLAB的CNN回归
基于MATLAB的深度学习工具箱(推荐2018以上),实现CNN回归。网上的例子比较少,这里简单的说一下传统的多输入单输出怎么做。手把手的教(PS:MATLAB自带一个回归教程,竟然还是有学生不知道对照着写)1、首先加载数据与数据集划分clc;clear;close allload datan=700;train_x=input(:,1:n);train_y=output(:,1:n);test_x=input(:,n+1:end);test_y=output(:,n+1:end原创 2020-11-08 00:13:14 · 30714 阅读 · 84 评论 -
基于麻雀搜索算法优化深度置信网络的分类方法(SSA-DBN)
随着装备日趋复杂化,依靠专家经验或信号处理技术人工提取和选择故障特征变得越来越困难。此外,以 BP 神经网络、SVM为代表的浅层模型难以表征被测信号与装备健康状况之间复杂的映射关系,且面临维数灾难等问题。结合深度置信网络(DBN)在提取特征和处理高维、非线性数据等方面的优势,提出一种基于深度置信网络的故障诊断方法。该方法通过深度学习利用原始时域信号的傅里叶频谱(FFT)训练深度置信网络并完成智能诊断,其优势在于能够摆脱对大量信号处理技术与诊断经验的依赖,完成故障特征的自适应提取与健康状况的智...原创 2021-06-04 13:19:57 · 10788 阅读 · 21 评论 -
基于布谷鸟优化LSTM的短时电力负荷预测
短期电力负荷预测是电力系统安全调度、经济运行的重要依据 , 随着电力系统的市场化 , 负荷预测的精度直接影响到电力系统运行的可靠性、经济性和供电质量。LSTM 为短期电力负荷预测提供了一个新的研究方向。本文将LSTM用于短期电力负荷预测 , 提出基于LSTM的短期电力负荷预测模型 , 同时建立布谷鸟算法模型对 LSTM进行参数优化以提高预测精度, 并以浙江某地区的历史负荷数据和气象数据为例进行验证 , 实例验证表明 , CS-LSTM 模型的预测效果明显提高。 布谷鸟搜索(Cu...原创 2021-07-13 11:57:27 · 11327 阅读 · 43 评论 -
基于改进粒子群IPSO与LSTM的短期电力负荷预测
短期电力负荷预测是电力系统安全调度、经济运行的重要依据 , 随着电力系统的市场化 , 负荷预测的精度直接影响到电力系统运行的可靠性、经济性和供电质量。LSTM 为短期电力负荷预测提供了一个新的研究方向。本文将LSTM用于短期电力负荷预测 , 提出基于LSTM 的短期电力负荷预测模型 , 同时建立改进粒子群模型对 LSTM进行参数优化 , 并以浙江某地区的历史负荷数据和气象数据为例进...原创 2019-12-30 14:51:44 · 25277 阅读 · 108 评论 -
基于噪声学习的卷积降噪自动编码器用于图像去噪
python tensorflow1.14实现 卷积自动编码器用于图像去噪,这个博客主要是借鉴了DnCNN用于图像去噪的方式,论文可以直接搜到(https://arxiv.org/pdf/1608.03981.pdf),也有很多人对于这个论文的中文讲解(https://www.jianshu.com/p/3687ffed4aa8,https://blog.csdn.net/w...原创 2020-03-22 23:20:11 · 2543 阅读 · 2 评论 -
基于一维残差卷积自动编码器的滚动故障轴承诊断
滚动轴承故障诊断实质上是“特征提取+模式分类”的问题,即首先对原始震动信号进行特征提取,提取出其中的关键特征,然后采用分类器如SVM,KNN进行模式分类,可以说提取的特征越具表达性,分类器的精度就越高。表达性差的特征,不管换成啥分类器,精度都提高不了多少,而表达性强的特征,就算采用简单的KNN,精度都很高。 因此,合理的特征提取是提高故障诊断精度的关键。现有的震动...原创 2020-02-27 16:09:40 · 7857 阅读 · 55 评论 -
基于tf2.0的小波长短时记忆网络
这几天由于疫情出不了门,看到小波神经网络(其实就是BP的激活函数换成了小波基),另外学了一下tf2.0(习惯tf1的会很不习惯tf2.0,但是习惯torch的就会很习惯),就在家里做了基于tf2.0的小波神经网络、多层小波神经网络与小波长短时记忆网络,并将这几种网络用于时间序列预测。 1、小波神经网络 输入层-隐含层-小波基-输出层,结...原创 2020-02-26 16:12:40 · 1295 阅读 · 3 评论 -
基于EMD+模拟退火优化DBN的风速预测模型
图1 原始风速时间序列 风速预测主要是时间序列预测,通常采用滚动序列建模,即采用1-n时刻风速作为输入,第n+1时刻风速作为输出,然后采用第2到n+1时刻风速作为输...原创 2020-02-26 15:27:39 · 7862 阅读 · 16 评论 -
基于融合CNN(2D-CNN与1D-CNN融合)与SVM的滚动轴承故障诊断
本文将2D-CNN与1D-CNN融合,同时对轴承数据集进行训练,然后在汇聚层将两者池化层的输出连接成一个向量,送进全连接层。模型训练结束之后,取FC层的输出作为提取到的故障特征信号。数据来源,西储大学滚动轴承故障诊断数据集。 融合CNN的结构图如图所示:1,数据准备 对于10类故障(1正常,9故障),分别采集100组样本,共1000组,...原创 2020-01-07 11:11:30 · 20416 阅读 · 41 评论