⛄一、沙丘猫算法优化宽度学习神经网络回归预测
1 沙丘猫算法
沙丘猫群优化算法(Sand Cat swarm optimization,SCSO)是土耳其学者Amir Seyyedabbasi于2022年最新提出的一种模拟沙丘猫生存行为的元启发式算法。
1.1 灵感来源
沙丘猫是猫科动物中的一种,属于哺乳动物家族。它们生活在沙质和石质沙漠的恶劣环境中,如中亚撒哈拉沙漠、非洲撒哈拉沙漠和阿拉伯半岛。沙丘猫虽然和家猫在外形上差别不断,但在捕食和生存方面有着不同的生活行为。它们能够探测低于2kHz的低频,也具有难以置信的挖掘猎物的能力。作者提出的沙丘猫算法就是受这两种特性的启发,也包括两个阶段:搜索和攻击,此外,还提出一种用于平衡探索和利用的机制。
1.2 数学模型和优化算法
沙丘猫群优化模拟了沙丘猫的两个主要行为:搜寻猎物和攻击猎物。由于自然界中的沙丘猫是独立生活的,那么在提出的算法中,为了提出种群智能的概念,作者假设沙丘猫是群体性的。
1.3 初始化种群
1.4 搜索猎物(探索)
1.5 攻击猎物(利用)
1.6 探索和利用
2 宽度学习神经网络
宽度学习系统(BLS) 的提出最早源于澳门大学科技学院院长陈俊龙和其学生于2018年1月发表在IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS,VOL. 29, NO. 1 的一篇文章,题目叫《Broad Learning System: An Effective and Efficient Incremental Learning System Without the Need for Deep Architecture 》。文章的主旨十分明显,就是提出了一种可以和深度学习媲美的宽度学习框架。
宽度学习系统的前身实际上是已经被人们研究了很久的随机向量函数连接网络 random vector functional-link neural network (RVFLNN).
该网络就是在单层前馈网络中增加了从输入层到输出层的直接连接。网络的第一层也叫输入层,第二层做增强层,第三层是输出层。具体来看,网络中有三种连接,分别是:
• (输入层 => 增强层)加权后有非线性变换
• (增强层 => 输出层)只有线性变换
• (输入层 => 输出层)只有线性变换
所以在随机向量函数连接网络中只有增强层是真正意义上的神经网络单元,因为只有它带了激活函数,网络的其他部分均是线性的。下面我们将这个网络结构进行简单的变形,如下图所示:
当我们把增强层和输入层排成一行时,并将它们视为一体,那网络就成了由 A(输入层+增强层)到 Y (输出层)的线性变换。线性变换对应的权重矩阵 W 就是输入层和增强层到输出层之间的线性连接。对于输入层到增强层之间的连接权重W_h和偏差β_h随机初始化并固定不变,如果我们固定输入层到增强层之间的权重W_h和偏差β_h,那么对整个网络的训练就是求出 A (输入层+增强层)到 Y(输出层) 之间的变换 W,而 W 的确定非常简单。
⛄二、部分源代码
⛄三、运行结果
⛄四、matlab版本及参考文献
1 matlab版本
2014a
2 参考文献
[1]赵侃,师芸,牛敏杰,王虎勤.基于改进麻雀搜索算法优化BP神经网络的PM2.5浓度预测[J].测绘通报. 2022(10)
3 备注
简介此部分摘自互联网,仅供参考,若侵权,联系删除