![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Algorithm
等等登登-Ande
作为新手,希望在学习过程与大家分享,共同进步!
展开
-
MATLAB自带机器学习算法汇总
Matlab用于训练机器学习模型的函数主要分为三类:有监督学习无监督学习集成学习1.有监督学习类名方法名函数名说明线性回归多元线性回归fitlm具有多个预测变量的线性回归逐步回归stepwise交互式逐步回归多目标的多元线性回归mvregress使用多变量输出的线性回归有正则化的多元线性回归lasso使用弹性网正则化的多元线性回归ridgeRidge.转载 2020-08-12 16:46:05 · 2508 阅读 · 1 评论 -
1.人工智能算法初探——感知机全解(原始形式and对偶形式)
感知机(perceptron)是1957年由Rosenblatt提出,是神经网络与支持向量机的基础。感知机是二分类的线性可分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1两个值。感知机只能应用到线性可分的数据集当中,对于线性不可分的问题感知机无法解决,其原理其实很简单:在特征空间中找到一个超平面将两类样本划分到超平面两侧,实现样品种类的划分。1.感知机模型假设输入空间是,输...原创 2019-07-11 22:24:05 · 849 阅读 · 0 评论 -
误差、过拟合、正则化、交叉验证、泛化能力详解
1.训练误差与测试误差机器学习的目的就是使学习得到的模型不仅对训练数据有好的表现能力,同时也要对未知数据具有很好的预测能力,因此给定损失函数的情况下,我们可以得到模型的训练误差(训练集)和测试误差(测试集),根据模型的训练误差和测试误差,我们可以评价学习得到的模型的好坏。同时需要注意的是,统计学习方法具体采用的损失函数未必是评估时使用的损失函数,两者相同的情况下是比较理想的。假设我们最...原创 2019-07-10 21:20:43 · 977 阅读 · 0 评论 -
Python实现感知机算法(原始形式、对偶形式)
上一篇文章给出了感知机算法的原理,这里给出Python实现感知机算法的代码:感知机原始形式实现代码:# -*- coding: utf-8 -*-"""Created on Sun Jul 14 09:48:09 2019@author: 等等登登-AndeE-mail:18356768364@163.com感知机算法原始形式实现(perception)data为输入数据...原创 2019-07-14 15:26:29 · 813 阅读 · 0 评论 -
监督学习简介、损失函数与风险函数
上一篇文章中简单的介绍了统计学习方法,今天继续深入介绍:监督学习监督学习(supervised learning)的任务是通过训练数据学习一个模型,使模型能够对任意未知的输入,对其相应的输出做出一个好的预测(预测值与真实值相近)。下面介绍一下监督学习中常用的几个空间:1.在监督学习中,将输入与输出所有可能取值的集合分别称为输入空间和输出空间。2.每个具体的输入是一个实例,通常有...原创 2019-07-09 20:54:27 · 1106 阅读 · 0 评论 -
高光谱数据预处理算法——多元散射校正(MSC)
多元散射校正(MSC)是高光谱数据预处理常用的算法之一,MSC可以有效的消除由于散射水平不同带来的光谱差异,从而增强光谱与数据之间的相关性。该方法通过理想光谱修正光谱数据的基线平移和偏移现象,而实际中,我们无法获取真正的理想光谱数据,因此我们常常假设所有光谱数据的平均值作为”理想光谱”。MSC具体实现方法如下:①求得所有光谱数据的平均值作为“理想光谱“;②将每个样本的光谱与平均光谱...原创 2019-07-09 11:32:27 · 28840 阅读 · 32 评论 -
算法学习概论
今天有点不想学习,不想搞科研,过几天去北京开会了,这两天就多更一些吧,今天开一个新专栏算法学习,这里主要讲解李航老师的《统计学习方法》中的内容,这两天看了看,感觉李航老师这本书真的是讲的非常好,有兴趣的童鞋可以去买一本研读,有什么问题大家可以一起交流学习~统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,统计学习也称为统计机器学习。我们单次“统计学习”这个名...原创 2019-07-02 22:18:18 · 192 阅读 · 0 评论 -
MATLAB手撕神经网络实现手写数字的识别
前面简单介绍了神经元,并讲解了数据的前向传播,今天将为大家简单介绍一下神经网络的误差反向传播算法,并通过神经网络算法实现手写数字图片的识别。一、反向传播算法神经网络的反向传播算法是神经网络的精髓之处,通过反向传播算法调整权重和阈值,实现代价函数最小化。下面从数学公式推导反向传播算法:假设输入数据为Xi,输入层与隐含层之间的权重为Wij,阈值为Bj,隐含层值为Mj,隐含层值为之间...原创 2019-06-26 16:15:59 · 1149 阅读 · 2 评论 -
MATLAB手撕神经网络实现手写数字的识别——神经元介绍
最近对神经网络比较感兴趣,于是开始了神经网络的学习,首先神经网络最基础的就是BP神经网络,后面就为大家介绍通过BP神经网络实现手写数字识别。首先简单详细介绍一下BP神经网络:BP(back propagation)神经网络是1986年由Rumelhart和McClelland为首的科学家提出的概念,是一种按照误差逆向传播算法训练的多层前馈神经网络,是目前应用最广泛的神经网络。BP神经网络的...原创 2019-06-04 20:41:28 · 557 阅读 · 1 评论 -
插值算法——分段线性插值(1)
首先,科普一下插值的含义:在离散数据的基础上补插连续函数,使得这条连续曲线通过全部给定的离散数据点。插值是离散函数逼近的重要方法,利用它可通过函数在有限个点处的取值状况,估算出函数在其他点处的近似值。插值的方法有很多:拉格朗日插值法,牛顿插值法,分段线性插值,样条插值等,每种插值方法都有自己的优缺点。今天,我们介绍的是比较简单的分段线性插值方法,分段线性将每两个相邻的节点用直线连起来,...原创 2019-05-11 22:32:35 · 43777 阅读 · 0 评论 -
MATLAB中使用LIBSVM中遇到的问题(经验贴)
今天使用上次写的LIBSVMc和g参数寻优函数时,发现了问题:不管怎么调节c和g两个参数,运行之后准确率完全没有变化,自己反复查看了自己写的函数,也没有发现明显错误,最后不经意间发现c和g参数设置中是不是应该有空格,于是自己试了一下,结果发现果真是这个问题,发现之后真是感觉又气又开心,分享给大家一下经验,希望能够帮助和我遇到相同问题的小伙伴~cg_paras = ['-v ',num2str...原创 2019-05-19 17:40:12 · 870 阅读 · 1 评论 -
MATLAB实现LIBSVM中的c和g的参数寻优
引言:LIBSVM是台湾大学林智仁(Lin Chih-Jen)教授等开发设计的一个简单、易于使用和快速有效的SVM模式识别与回归的软件包,他不但提供了编译好的可在Windows系列系统的执行文件,还提供了源代码,方便改进、修改以及在其它操作系统上应用;该软件对SVM所涉及的参数调节相对比较少,提供了很多的默认参数,利用这些默认参数可以解决很多问题;并提供了交互检验(Cross Validation...原创 2019-05-06 20:01:04 · 9725 阅读 · 10 评论 -
高光谱数据预处理算法——移动窗口平均平滑
今天介绍高光谱数据预处理算法中的:移动窗口平均平滑算法。顾名思义,移动窗口平均平滑的意思就是平滑窗口在数据上移动求平均,从而对数据进行去噪。上一节我们讲的标准化是对全体样本数据的移动、缩放,从而消除各个样本数据间的差异。而移动窗口平均平滑是对单个样本数据进行平滑,消除数据中的噪音。下面,我将介绍该算法的原理:上图为一光谱数据,我们要对其进行移动窗口平均平滑,首先确定窗口大小,本例中我们...原创 2019-03-01 15:28:19 · 10008 阅读 · 7 评论 -
卷积功能的实现
卷积是图像处理经常用到的功能,在图像滤波、锐化等方面经常使用,今天使用MATLAB写自己的卷积函数。下面首先介绍一下卷积的原理:如图(图从网上下载,侵删),卷积就是模板在所处理的图像上进行滑动,从而实现图像的滤波、锐化等功能。图中的卷积模板为prewitt模板,将图像中元素与卷积模板上的对应元素相乘之和作为输出,替代图像中与卷积模板对应区域中心的元素。常用的卷积模板有:sobel、...原创 2019-02-19 10:28:07 · 673 阅读 · 0 评论 -
高光谱数据预处理算法——数据标准化/归一化
今天,我又开了一栏博客,这里我将主要介绍高光谱数据处理的相关算法,为广大刚刚从事高光谱的学习的同胞们提供一点点帮助,希望大家能够从中学到一些!!!下面我将开始介绍一系列高光谱数据预处理算法,在我们采集到高光谱数据之后,其中含有很多噪音,如果直接建模的话,这些噪音会影响建模效果。因此,我们要先进行一定预处理,将其中的噪音去除。常用的预处理算法有标准化/归一化、移动平均窗口平滑、SG平滑等。今天我...原创 2019-02-27 19:50:17 · 15829 阅读 · 4 评论