顶级SCI优化！DCS-CNN-BiLSTM-Attention-KDE实现区间概率预测！区间预测全家桶再更新！

       声明：文章是从本人公众号中复制而来，因此，想最新最快了解各类智能优化算法及其改进的朋友，可关注我的公众号：强盛机器学习，不定期会有很多免费代码分享~ 

目录

数据介绍

四大创新点

1.结合CNN和BiLSTM的优势：

2.引入注意力机制：

3.利用24年顶级SCI一区优化算法DCS实现超参数自动优化：

4.改进核密度估计（自适应核密度估计）实现区间概率预测：

模型流程

效果展示

全家桶代码目录

代码获取

---

        传统的点预测相信大家已经做腻了，审稿人也看腻了。其输出的仅有一个预测值，无法定量描述预测结果的不确定性。

        而区间预测能够得到预测值可能出现的范围，即给出上界和下界。目前应用在电气学科比较多，如光伏功率预测、风电功率预测、风速预测等等，如果你想应用在其他学科，都是完全可以的，比如碳价预测、剩余寿命预测、降水量预测等等。并且，能给审稿人眼前一亮，也能增加工作量和Accept的概率和机会。

        因此，今天，对我们之前推出的区间预测全家桶进行更新，将最新推出的差异创意算法DCS优化CNN-BiLSTM-Attention-KDE模型加入到我们的全家桶当中，非常新颖，包含四大创新点，后文也会一一介绍。

        而如果你之前购买过区间预测全家桶，此次推出的模型免费下载即可。

        同样，本期代码大家使用的时候只需要一键运行main即可出来所有图片与区间预测结果。非常方便，也适合新手小白。如果你想替换成自己的其他数据集，也只需替换Excel文件即可，无需更改代码。

        我们提出的这个模型在知网和WOS平台依旧都是搜不到的，属于尚未发表的创新点，不信可以看下图：

        知网平台：

        WOS平台：

数据介绍

        本期数据使用的依旧是多变量回归数据集，是某地一个风电功率的数据集，经过处理后有3个特征，分别用特征1、2、3来表示，具体特征含义大家不必深究，这边只是给大家提供一个示例而已，大家替换成自己的数据集即可~

        更换自己的数据时，只需最后一列放想要预测的列，其余列放特征即可，无需更改代码，非常方便！

四大创新点

        以下这些文字，如果大家需要用这个程序写论文，都是可以直接搬运的！

1.结合CNN和BiLSTM的优势：

        CNN通过卷积层处理输入数据，提取局部特征；BiLSTM则处理序列化的特征，捕捉长期依赖关系。这种结合方式使得模型既能理解局部的输入特征，也能理解这些特征随时间的变化关系，增强了模型对于复杂序列数据的理解能力。

2.引入注意力机制：

        在CNN之后引入全局平均池化层和SE通道注意力机制，通过学习各个通道的重要性来自适应地重新校准通道的特征响应，增强模型对重要特征的敏感度与关键特征的关注度，提高了模型的表示能力。这使得模型能够更加关注于对预测目标最重要的特征。这种机制进一步增强了模型捕捉关键信息的能力，同时保留了序列特征的丰富性。

3.利用24年顶级SCI一区优化算法DCS实现超参数自动优化：

        差异创意搜索算法(Differentiated Creative search, DCS)于2024年3月发表在SCI人工智能一区顶刊《Expert Systems With Applications》上！该算法灵感来源于差异化知识获取和创造性现实主义的概念，具有强大的进化能力、快速的搜索速度和出色的寻优能力。

        该算法刚刚提出，提出时间极短。目前，还没有使用该算法的文献，可以说，你先用，你就是创新。在我们的模型中，利用DCS算法优化CNN-BiLSTM-Attention模型的学习率、隐藏层节点数和正则化系数。

        原文作者在CEC2017的30个函数、经典的传感器选择问题、汽车侧面碰撞设计、齿轮系设计和调频声波参数估计等实际应用，证明了本文的贡献。结果表明，与现有算法相比，DCS具有良好的性能。

        具体原理和测试效果可以查看这篇推文：

2024年SCI一区新算法-差异创意搜索算法(DCS)-公式原理详解与性能测评 Matlab代码免费获取

4.改进核密度估计（自适应核密度估计）实现区间概率预测：

        自适应带宽核函数密度估计（adaptive bandwidth kernel density estimation）是一种用于估计概率密度函数的非参数方法，它使用核函数对数据进行平滑处理，并通过自动选择合适的带宽参数来适应数据的本地特性。

        在传统的核密度估计中，带宽参数控制着核函数的宽度，从而影响了平滑程度和估计的准确性。而自适应带宽核函数密度估计则通过将带宽参数作为每个数据点的函数来进行估计，从而使得每个数据点都有自己独立的带宽参数。

        自适应带宽核函数密度估计的一种常见方法是基于局部加权回归（local weighted regression）的方法。在这种方法中，对于每个数据点，通过对附近的数据点进行加权回归，来估计它周围的概率密度。权重的选择通常与距离有关，较近的数据点会获得更高的权重。自适应带宽核函数密度估计的优势在于它能够在不同的数据区域自动调整带宽参数，从而更好地适应数据的局部特性和密度变化。相比于固定带宽的方法，自适应带宽核函数密度估计可以提供更准确的概率密度估计，并更好地捕捉到密度函数的细节和变化。

模型流程

        再介绍一下我们的这个模型是怎么实现的以及它的流程：

        1.数据导入：从Excel文件中读取数据，设定最后一列为输出变量，其余列作为特征变量。

        2.训练集与测试集划分：按比例划分训练集和测试集，比例暂定为70%。

        3.数据归一化：对训练集和测试集的特征和标签进行归一化处理，以提高模型训练效率。

        4.优化算法确定超参数：使用DCS优化算法确定CNN-BiLSTM-Attention模型的最优参数，包括学习率、隐藏层节点数和正则化系数。

        5.构建模型：建立CNN-BiLSTM-Attention网络，其中CNN用于特征提取，BiLSTM处理序列依赖，注意力机制强化关键信息。

        6.模型训练：将DCS算法确定的最优参数代入该模型，使用训练集对CNN-BiLSTM-Attention模型进行训练。

        7.模型预测：利用训练好的模型对训练集和测试集进行预测，然后对预测结果进行反归一化。

        8.区间概率预测：得到训练集误差，设置置信区间，进行自适应带宽核密度估计。

        9.核密度估计：确定采样点，进行核密度估计，得到核密度估计图片。

        10.性能评估：通过绘制真实值与预测值的对比图、概率密度图、误差分布图等，并计算R^2、MAE、RMSE、MAPE、PICP、PINAW、CRPS等指标，评估模型性能。

效果展示

        这里设置种群数量为6，优化算法最大迭代次数为10，展示一下运行效果。同时，设置置信区间分别为95%、90%、75%、50%、25%、10%、5%。当然，这里因为时间原因只设置了10次迭代次数，如果你时间充足或想要更好的结果，可以增大迭代次数。

        区间概率预测效果图：

        点预测效果图：

        迭代曲线图：

        核密度估计曲线图：

        迭代曲线图：

        网络结构图（SE通道注意力机制）：

        命令行窗口误差显示：

        可以看到，在本数据集上，精度是非常高的，在95%置信区间上的PICP甚至达到了96%，也进一步表明了本文算法的有效性和改进点的科学性。

        以上所有图片，作者都已精心整理过代码，都可以一键运行main直接出图，不像其他代码一样需要每个文件运行很多次！

        适用平台：Matlab2021a及以上，没有的文件夹里已经免费提供安装包，直接下载即可！

全家桶代码目录

        目前，全家桶在之前10个模型的基础上又增加了一个，共11个，并已推出了3篇推文进行讲解，之后还会推出更多更新颖的模型。

        购买后如果以后推出其他区间预测模型，直接免费下载，无需再次付费。

        但如果你之后再买，一旦推出新模型，价格必然会上涨。因此，需要创新的小伙伴请尽早下手。

代码获取

         1.已将本文算法加入区间预测全家桶中，点击下方小卡片，后台回复关键字，不区分大小写：

区间预测全家桶

        2.如果实在只想要DCS-CNN-BiLSTM-Attention-KDE单品的同学，点击下方小卡片，后台回复关键字，不区分大小写：

DCBAK

          更多代码链接：更多代码链接