机器学习深度学习
night李
要做一条有梦想的咸鱼
展开
-
统计学习方法(二)感知器C语音实现
感知器(perception)是二分类线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1的二值,感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型,感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此导入基于误分类的损失函数,利用梯度下降法对于损失函数进行极小化,求得感知器模型。——–摘自统计学习方法 感知器包含输入层和输出层,主要对线性的数据原创 2017-10-17 21:25:19 · 669 阅读 · 0 评论 -
python:logistic,softmax函数
在学习时,经常会遇到分类的问题,简单的讲:分类就是设定一个阈值,将你想分类的对象与这个阈值进行比较,根据结果来进行决定分类。 最简单的分类函数是阶跃函数(简单粗暴) 但问题在于,这模型不够光滑,阶跃点从0到1突变,阶跃点难以处理,分类的效果也就那样。 logistic函数:一种常见的S形函数,它是皮埃尔·弗朗索瓦·韦吕勒在1844或1845年在研究它与人口增长的关系时命名的。(生物课上经常原创 2017-08-05 21:46:02 · 10238 阅读 · 0 评论 -
k-mean聚类算法实现
kmean是常用的聚类算法之一主要步骤为: 1.读如点数据,随机选取k个点成为最后要聚的类数目; 2.求剩下的点到这k个点的距离,取最小值,按点的距离聚成一类; 3算同一类中点的质心坐标,即x,y的平均值作为中心点, 4求个点到这中心点的距离,按距离再进行聚类; 5迭代求中心,再聚类; 6当中心点变化在相邻两次迭代的变化数值小与某一范围时停止迭代 7用OpenGL,VTK等可视化软件显原创 2017-03-16 21:42:49 · 1718 阅读 · 1 评论 -
浅谈决策树
决策树(decision tree)是一种常见的机器学习方法。看了周志华西瓜书后来简要谈谈自己的认识: 首先,引入了“信息熵”的概念,信息熵(information entropy)是离散随机事件的出现概率,是衡量样本集合纯度最常用的一种指标,与热力学的熵有密切的关系。 通常,一个信源发送出什么符号是不确定的,衡量它可以根据其出现的概率来度量。概率大,出现机会多,原创 2016-09-10 23:22:13 · 504 阅读 · 0 评论 -
简化论述没有免费午餐定理(NFL)
No Free Lunch Theoren 定理 ,没有免费的午餐定理,简称NFL定理,由美国斯坦福大学的Wolpert和Macready教授提出。 在机器学习算法中的体现为在没有实际背景下,没有一种算法比随机胡猜的效果好。 首先,我们假设一个算法为a,而随机胡猜的算法为b,为了简单起见,假设样本空间为χ\chi 和假设空间为HH都是离散的。令原创 2016-08-16 22:58:22 · 7344 阅读 · 3 评论 -
主成分分析PCA学习笔记
主成分分析(principal components analysis,PCA)是一个简单的机器学习算法,主要思想是对高维数据进行降维处理,去除数据中的冗余信息和噪声。 算法: 输入样本:D={x1,x2,⋯,xm}D=\left \{ x_{1},x_{2},\cdots ,x_{m}\right \} 低纬空间的维数过程:· 1:对所有样本进行中心化原创 2017-12-26 21:06:36 · 1217 阅读 · 1 评论 -
深度学习CV中常用的数据集
介绍一些深度学习中CV方面的一些常用的数据集: (一)mnist手写字体数据集: mnist数据是由Google实验室的Corinna Cortes和纽约大学柯朗研究所的YannLeCun建立的一个手写字体数据集,其中训练集包含60000训练的手写数字图片,测试集包含10000张图片,一个训练集的标签集,一个测试集的标签集。 官方地址: http://yann.lecun.com/ex原创 2018-01-13 15:45:39 · 8681 阅读 · 1 评论 -
Facebook Detectron物体检测研究平台实践
1月23日,Facebook 开源了自家的物体检测研究平台 Detectron。Detectron 是 Facebook AI 研究的软件系统,实现了最先进的物体检测算法,包括 Mask R-CNN。Detectron 用 Python 编写实现,并由深度学习框架 Caffe2 (Caffe2应该类似Brain++,内部使用)。 Detectron 的由来2016 年 7 月,Detec原创 2018-01-27 12:28:40 · 5862 阅读 · 1 评论 -
python svm pca实践二
继上一片的内容,这片来·讲一下sklearn来进行简单的人脸识别,这里用的方法是pca和svm 先导入必要的包和数据集import numpy as npimport matplotlib.pyplot as pltfrom scipy import statsfrom sklearn.decomposition import PCAfrom sklearn.svm impor...原创 2018-05-21 19:48:47 · 1135 阅读 · 0 评论