有关ELM和SVM在使用过程中的问题

于 2022-10-26 23:35:26 发布
阅读量330 收藏 1
点赞数
文章标签： 支持向量机 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_50642818/article/details/127543381
版权

最近在看别人使用ELM和SVM连接CNN的时候发现一点问题，这个组合我自己以前做过，没有查到多少资料，但是有一点是可以确认的。就是ELM和SVM无法进行反向传播，无法和CNN一起同步进行梯度下降的参数优化过程。然而貌似有几篇论文在介绍自己方法的时候写的好像能一起训练一样，不知道是他们理解的问题还是我真的搞错了。另外，ELM的方法好像争议很大，而且我自己用起来确实效果很一般，没那么神奇。

正好看到一个帖子专门讨论这个，贴出来供大家参考

Extreme learning machine (ELM) 到底怎么样，有没有做的前途？ - 知乎 (zhihu.com)

北漂炼丹青年
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
ELM.rar_SVM ELM对比_svm训练慢_岩性识别
09-20
基于传统支持向量机(sVM)训练速度慢、参数选择难等问题，提出了基于极限学习机(ELM)的岩性识别。该算法是一种新的单隐层前馈神经网络(sLFNs)学习算法，不但可以简化参数选择过程，而且可以提高网络的训练速度。
浅论MLP、ELM、SVM的效果
yfszzx的专栏
09-26 9634
这几天测试了MLP和ELM的效果，发现MLP明显优于ELM，就一直在思考其中的原因，昨天散步时突然想通了其中的道理。 MLP和ELM、SVM的本质，都是将问题映射到高维空间，然后在高维空间做回归或分类。 从原理上来说，分类或回归的效果，直接受到映射方式的影响，如果一个关键的模式，在高维空间上表现出明显的差异，分类效果就好，如果这个关键模式恰好没在高维空间上表现出来，效果就差。 从这个
ELM 极限学习机与SVM支持向量机
hanzihan123的专栏
11-25 1万+
在上一篇《DeepLearning 的挑战： Extreme Learning Machine（超限学习机）？》 中介绍了一些ELM与DL 的一些比较，这篇主要介绍ELM的原理。 首先，ELM的核心就是将复杂的迭代过程转变为隐层参数随机产生。 其次，ELM 是一个神经网络，有输入层、隐藏层，输出层。 最后，ELM 的多分类效果优于SVM。   对于训练样本集{xi,ti}  i=1-N,
ELM与SVM
weixin_38907330的博客
02-18 1834
本文是对模式识别作业的总结，主要偏重应用，附有代码 https://blog.csdn.net/lisi1129/article/details/70209945?locationNum=8&fps=1
SVM、BP了解以及性能比较
热门推荐
鱼香土豆丝
08-29 2万+
SVM的了解 通俗的说SVM 就是一种二分类器，特征空间上的间隔最大化的分类器，目的是从特征学习中取出一个0/1分类模型，对于二分类问题y只取两个值，目标是求一个超平面，而且有着很重要的意义。 直观上说超平面是分开两类数据的直线，所以求的最大间隔就是就是取函数间隔与几何间隔。为了使的分类的精度高，最大化间隔值，因此我们要找到最大的间隔值引出了最大间隔分类器定义为，当目标函数是二次的，是凸二次规
极限学习机(ELM)
迷川浩浩的博客
11-10 8030
1. 引言极限学习机(extreme learning machine)ELM是一种简单易用、有效的单隐层前馈神经网络SLFNs学习算法。2004年由南洋理工大学黄广斌副教授提出。传统的神经网络学习算法（如BP算法）需要人为设置大量的网络训练参数，并且很容易产生局部最优解。极限学习机只需要设置网络的隐层节点个数，在算法执行过程中不需要调整网络的输入权值以及隐元的偏置，并且产生唯一的最优解，因此具有学
睡眠阶段分期——SVM和ELM分别与粒子群算法结合（main）
侧耳倾听
02-17 2683
摘要：本研究的目的是建立具有最佳准确率的分类模型,以心电图(ECG)信号为基础,使用心率变异性(HRV)特征来识别睡眠阶段。该方法是极端学习机器(ELM)和粒子群优化(PSO)的组合,用于特征选择和隐藏节点数的确定。ELM和PSO组合的2、3、4和6分类的测试精度分别为82.1%, 76.77%, 71.52%, 62.66%。本文还比较了ELM和支持向量机(SVM)方法,其测试精度低于ELM和...
elm分类代码,elm语言,matlab
09-10
4ELM在研究中被视为一类特殊的FNN，或对FNN及其反向传播算法的改进，其特点是隐含层节点的权重为随机或人为给定的，且不需要更新，学习过程仅计算输出权重 [2]? 。 传统的ELM具有单隐含层，在与其它浅层学习系统，...
移民的随机环境中连续时间多类型分支过程的 Matlab代码.zip
最新发布
08-02
##### 2.5 ELM预测和分类 ##### 2.6 KELM预测和分类 **2.7 ELMAN预测和分类** ##### 2.8 LSTM预测和分类 **2.9 RBF预测和分类** ##### 2.10 DBN预测和分类 ##### 2.11 FNN预测 ##### 2.12 DELM预测和分类 ##...
elm分类器matlab代码-Audio_Classifier_for_Asthma_Detection:实时分类从患者那里收集的音频样本，包
05-21
榆木分类器Audio_Classifier_for_Asthma_and_Hypothorax_Detection 该项目对从患者收集的音频样本进行分类，包括他们的咳嗽，体液水平和喘息频率，以实时...其他传统算法：SVM，GNN（高斯神经网络），ELM（极限学习机）
SVM推导过程
03-26
线性可分支持向量机 线性支持向量机 数据近似线性可分 非线性支持向量机 数据线性不可分
BP+SVM+ELM回归预测代码.zip
03-11
BP神经网络、SVM支持向量机、ELM极限学习机的MATLAB代码，三种对比实验，用于回归预测 内含测试数据
【Matlab源码】虚拟过程控制实验.zip
03-31
##### **2.5 ELM预测**和分类 ##### **2.6 KELM预测**和分类 **2.7 ELMAN预测和分类** ##### **2.8 LSTM预测**和分类 **2.9 RBF预测和分类** ##### 2.10 DBN预测和分类 ##### 2.11 FNN预测 ##### 2.12 DELM...
关于ELM
dagekai的专栏
07-18 7113
关于ELM的一些想法
ELM神经网络
大数据流浪法师的学习笔记与分享
05-28 3467
A、C 是传统的神经网络做法，和存在的问题。（BP算法） ELM（极限学习机 Extreme Learning Maching) 该算法随机产生输入层与隐层间的连接权重及隐层神经元的阈值，且在训练过程中无需调整，只需要设置隐层神经元的个数，便可以获得唯一的全局最优解。 https://blog.csdn.net/csuwlf/article/details/85002255 ...
DL学习笔记-反向传播算法的理解
weixin_34149796的博客
09-12 811
作者：杜客链接：https://zhuanlan.zhihu.com/p/21407711来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 译者注：本文智能单元首发，译自斯坦福CS231n课程笔记Backprop Note，课程教师Andrej Karpathy授权翻译。本篇教程由杜客翻译完成，堃堃和巩子嘉进行校对修改。译文含公式和代码，建议PC端阅读。 ...
CS231n作业笔记1.3：SVM的误差函数以及反向传播（非向量及向量算法）
silent56_th的博客
12-19 3046
CS231n简介详见 CS231n课程笔记1：Introduction。 注：斜体字用于注明作者自己的思考，正确性未经过验证，欢迎指教。作业笔记SVM的Loss Function请参考 CS231n课程笔记3.1：线性分类器（SVM，softmax）的误差函数、正则化。1. 非向量的误差计算这部分属于作业自带部分，使用loop计算，如果margin大于0，就叠加，最后加入正则项。2. 非向量的梯
Softmax、SVM反向传播推导（未完成）
zhiwei2coder的博客
04-07 1030
参考cs231n 和 https://blog.csdn.net/pjia_1008/article/details/66972060
elm极限学习机
blacklee123的专栏
07-14 2225
一、极限学习机的概念     极限学习机(Extreme Learning Machine) ELM，是由黄广斌提出来的求解单隐层神经网络的算法。     ELM最大的特点是对于传统的神经网络，尤其是单隐层前馈神经网络(SLFNs)，在保证学习精度的前提下比传统的学习算法速度更快。 二、极限学习机的原理 ELM是一种新型的快速学习算法，对于单隐层神经网络，ELM 可以随机初始化输入权重和偏
svm算法在求解过程中可能出现的问题或缺点
05-12
SVM算法在求解过程中可能出现以下问题或缺点： 1. 参数调节问题：SVM算法需要调节的参数较多，如正则化参数C、核函数的类型和参数等，这些参数的不同取值可能导致模型的性能差异较大，需要经过大量的试验来确定最优...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

北漂炼丹青年

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值