机器学习
机器学习分享
Jack you123
永远快乐
展开
-
无监督学习概论
无监督学习是从无标注的数据中学习数据的统计规律或者说内在结构的机器学习,主要包括聚类、降维、概率估计。可以考虑发掘数据的纵向结构,把相似的样本聚到同类,即对数据进行聚类。还可以考虑发掘数据的横向结构,把高维空间的向量转换为低维空间的向量,即对数据进行降维。也可以同时考虑发掘数据的纵向和横向结构,假设数据由含有...原创 2020-10-17 21:41:43 · 978 阅读 · 0 评论 -
SVM
支持向量机。我还没法完全的理解其中的数学推导过程,先留着,以后补上。1、线性可分支持向量机分离超平面: 分类决策函数: 线性可分支持向量机的最优解存在且唯一。位于间隔边界上的实例点为支持向量。最优分离超平面由支持向量完全决定。2、线性支持向量机分离超平面: 分类决策函数: 线性支持向量机的解唯一但不一定唯一支持向量可在间隔边界上,也可在间隔边界与分离...原创 2020-10-17 17:03:21 · 109 阅读 · 0 评论 -
隐马尔可夫模型
原创 2020-08-22 09:59:03 · 101 阅读 · 0 评论 -
2020-08-19机器学习小记
1、我现在学习机器学习是两本书,一本是:统计学习方法,另一本是:机器学习实战。以前有一些基础,看过一些视屏教程,但是感觉就是理解的不够深入,最主要的原因就是:模型的数学推理过程不熟练。2、现在两手抓,理论靠:统计学习方法。实践靠:机器学习实战。现在我对模型的理论推导都写过了,也记录了一些笔记。3、现在这个阶段:理解模型的数学推导过程,编写代码 下一阶段:手写出这些模型数学推导过程 再下一阶段:用这些模型去处理现实中的问题...原创 2020-08-19 23:00:00 · 158 阅读 · 0 评论 -
逻辑斯蒂回归和最大熵模型
1、logistic回归梯度上升优化算法'''logistic回归梯度上升优化算法'''def loadDataSet(): ''' 读取testSet.txt文件 --------------- 返回: dataMat:list,特征 labelMat:list,标签 ''' dataMat = [] ; labelMat = [] fr = open('D:\\spyder_code\\machinelear原创 2020-08-19 22:50:56 · 204 阅读 · 0 评论 -
深入理解拉格朗日乘子法(Lagrange Multiplier) 和KKT条件
转自:https://blog.csdn.net/lijil168/article/details/69395023????从几何角度看拉格朗日乘子法的物理意义:转载 2020-07-25 15:28:37 · 149 阅读 · 0 评论 -
决策树
一、主要步骤特征选择决策树的生成决策树的修剪二、算法实现'''创建分支的伪代码函数creatBranch(): 检测数据集中的每个子项是否属于同一分类: if so return 类标签; Else 寻找划分数据集的最好特征 划分数据集 创建分支节点 for 每个划分的子集 调用函数createBranch并增加返回结果到分支节点中 re原创 2020-07-06 14:02:27 · 160 阅读 · 0 评论 -
预测数值型数据:回归
一、概述1、普通最小二乘法, 确保可逆def loadDataSet(fileName): #general function to parse tab -delimited floats numFeat = len(open(fileName).readline().split('\t')) - 1 #get number of fields dataMat = []; labelMat = [] fr = open(fil...原创 2020-06-22 13:51:33 · 261 阅读 · 0 评论 -
详解最大似然估计(MLE)、最大后验概率估计(MAP),以及贝叶斯公式的理解
声明:本文为原创文章,发表于nebulaf91的csdn博客。欢迎转载,但请务必保留本信息,注明文章出处。本文作者: nebulaf91本文原始地址:http://blog.csdn.net/u011508640/article/details/72815981...转载 2020-06-03 23:26:25 · 144 阅读 · 0 评论 -
泊松分布
转载 2020-05-21 09:07:01 · 129 阅读 · 0 评论 -
概率论:假设检验-t检验、卡方检验和AD-Fuller test
http://blog.csdn.net/pipisorry/article/details/51184556卡方检验 Chi-Squarethe chi-square test meas...转载 2020-04-22 08:57:22 · 1827 阅读 · 0 评论 -
贝叶斯公式
(1)条件概率公式 设A,B是两个事件,且P(B)>0,则在事件B发生的条件下,事件A发生的条件概率(conditional probability)为: &nbs...转载 2020-03-17 13:31:11 · 1414 阅读 · 0 评论 -
基于概率论的分类方法:朴素贝叶斯
一、朴素贝叶斯的前提特征独立且同等重要二、import numpy as npimport ospath = os.getcwd()#%%'''准备数据:从文本中构建向量'''def loadDataSet(): postingList=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'], ['maybe', 'not', 'take', 'him', 'to', 'do原创 2020-06-20 14:36:37 · 144 阅读 · 0 评论 -
K-近邻法
一、建议代码实现import numpy as npimport operatordef creatDataset(): group = np.array([[1,1.1],[1,1],[0,0],[0,0.1]]) labels = ['A','A','B','B'] return group,labelsdef classify0(inX,dataSet,labels,k): ''' k-近领算法 ------------原创 2020-06-14 08:36:31 · 143 阅读 · 0 评论