![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
SyGoing
不断学习,才能永葆活力
展开
-
损失函数(Loss Functions/cost funtions)
损失函数(Loss Functions/cost funtions)总结原创 2018-06-06 19:16:59 · 642 阅读 · 0 评论 -
朴素贝叶斯分类器
朴素贝叶斯分类器笔记 朴素贝叶斯分类器是基于贝叶斯定理和特征属性条件独立性假设的分类算法。算法对样本的特征属性做了条件独立性假设,这个假设简单粗暴,忽略特征属性之间的相关性,因此很“朴素”,但是在实际应用中貌似还是很高效。1、基础知识准备 (1)贝叶斯定理 贝叶斯定理描述的是两个条件概率的关系,条件概率P(...原创 2019-01-03 14:06:32 · 617 阅读 · 0 评论 -
感知机(perceptron)
感知机(perceptron) 学习到这里渐渐要与深度学习接轨了,有点激动。传统分类战斗机SVM以及当下流行CNN、RNN、BP神经网络、LSTM的基础与感知机有关系,从感知机开始就有不同了,虽然多了很多其他的感念,但是形式上都有感知机这一简单分类器的影子。 感知机是二分类的线性模型,输入为样本特征向量,输出为样...原创 2018-12-27 18:36:11 · 1663 阅读 · 0 评论 -
BP神经网络
BP神经网络一、BP神经网络模型及其前向传播 学了感知机以及逻辑斯蒂回归模型再来看BP神经网络,可以感觉到一脉相承。感知机加上sigmoid非线性激活就是逻辑斯蒂回归,逻辑斯蒂回归在累加几个“隐层”(输入输出之间再加隐藏层)就是BP神经网络的模型。 隐层的加入增强了模型的表达能力,隐层的层...原创 2018-12-27 16:17:46 · 2769 阅读 · 1 评论 -
熵的概念简单总结
熵的概念 熵 (entropy) 这一词最初来源于热力学。1948年,克劳德·爱尔伍德·香农将热力学中的熵引入信息论,所以也被称为香农熵 (Shannon entropy),信息熵 (information entropy)。百度百科这样解释信息,信息是指指音讯、消息、通讯系统传输和处...原创 2018-12-21 16:23:50 · 4158 阅读 · 0 评论 -
kmeans聚类
kmeans聚类 kmeans聚类算法是一种基础的聚类算法,是机器学习中常用的无监督学习算法,虽然算法比较简单,但是在机器学习中占用重要的地位,是必须掌握的基础算法。1、算法流程 1 )随机选取k个中心点 2 )遍历所有数据,将每个数据划分到最近(一般采用欧氏距离度量数据...原创 2018-12-13 13:58:38 · 566 阅读 · 0 评论 -
极大似然与最小二乘的联系
原创 2018-12-06 13:48:27 · 201 阅读 · 0 评论 -
Logistic回归拓展到多分类
Logistic多分类转载注明出处:https://blog.csdn.net/ouyangfushu/article/details/84797493作者:SyGoingQQ: 2446799421、概率模型 逻辑斯蒂回归本来是用于多分类,改变其概率模型函数则可将其拓展到多分类(cla...原创 2018-12-04 19:49:37 · 5160 阅读 · 4 评论 -
PCA/ZCA白化
PCA/ZCA白化转载注明出处:https://blog.csdn.net/ouyangfushu/article/details/84797210作者:SyGoingQQ: 2446799421、PCA白化(PCA Whitening) 通过之前的学习可知PCA实现了对数据特...原创 2018-12-04 19:29:16 · 2262 阅读 · 1 评论 -
奇异值分解(SVD,Singular value decomposition)
5、python代码(PCA案例)#-*- coding:utf-8-*-from numpy import *import numpy as npimport cv2import matplotlib.pyplot as pltdef zeroMean(dataMat): meanVal=np.mean(dataMat,axis=0) #ax...原创 2018-11-23 11:39:47 · 269 阅读 · 0 评论 -
主成分分析(PCA,Principal Component Analysis)
主成分分析(PCA,Principal Component Analysis)1、理论 1)概要 PCA(主成分分析)是机器学习中一种数据降维算法,具体地为一个样本的特征通常用一个n维向量表示,PCA通过对数据进行正交线性变换将其映射到一个新的空间中且维度不变,经过变换后任意两个维度线性无关,且在第一维方差最大,第二维次之,以...原创 2018-11-23 10:03:08 · 924 阅读 · 0 评论 -
逻辑斯蒂回归(logistic regression)
机器学习之逻辑斯蒂回归(logistic regression)一、理论学习模型 前面一篇博客学习线性回归,其实逻辑回归就是在线性回归基础上加了一个sigmoid激活函数。线性回归问题标签为连续性实数值,此为回归,而逻辑回归要解决的二分类问题,标签为离散的数值(0和1),因此线性回归计算的值加上sigmoi...原创 2018-10-21 11:10:15 · 713 阅读 · 0 评论 -
线性回归(Linear Regreesion )
机器学习之线性回归一、理论学习机器学习监督学习算法分为分类算法和回归算法两种,事实上就是依据类别标签分布类型为离散型、连续性而定义的,如果类别标签是离散型的则为分类,对于连续性的标签的映射则为回归。线性回归则是连续性预测变量与输入变量存在线性映射关系。1、模型对于输入的n维特...原创 2018-10-21 11:09:36 · 303 阅读 · 0 评论 -
K-SVD字典学习详细推导
K-SVD字典学习 最近学习K-SVD字典学习算法,云里雾里地看了好几篇博客,最后老实阅读了算法的原始论文《K-SVD: An Algorithm for Designing OvercompleteDictionaries for Sparse Representation》和维基百科的讲解,不得不说还是外...原创 2019-04-02 19:11:55 · 8417 阅读 · 7 评论