![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 67
liuyhoo
这个作者很懒,什么都没留下…
展开
-
支持向量机简述
支持向量机本质上解决二分类问题(也可以用于多分类,即多次二分类问题)2.原理支持向量机即找到一个分界面,放在两个类别之间,将两类分别开。如:二维上,是一条直线三维上,是一个平面如果在低维不可分时,就通过核函数把地位数据映射到高维,高维上变线性可分之后,在高维上利用支持向量进行分类即可。.........原创 2022-06-16 11:38:14 · 355 阅读 · 0 评论 -
距离公式差别
对于LPLP{{L}_{P}}距离 当p=1p=1p=1时,为曼哈顿距离 (路径) 当p=2p=2p=2时,为欧氏距离 (空间) 当p→∞p→∞p\to \infty 时,为切比雪夫距离 (国际象棋国王)向量差距:夹角余弦编码差别:汉明距离集合近似度:杰卡德似系数与距离相关:相关系数与相关距离...原创 2018-09-11 17:28:44 · 371 阅读 · 0 评论 -
学习笔记------机器学习--最小二乘法
关于最小二乘问题的求解,之前已有梯度下降法,还有比较快速的牛顿迭代。今天来介绍一种方法,是基于矩阵求导来计算的,它的计算方式更加简洁高效,不需要大量迭代,只需解一个正规方程组。 在开始之前,首先来认识一个概念和一些用到的定理。矩阵的迹定义如下 一个的矩阵的迹是指的主对角线上...转载 2018-08-07 21:20:40 · 281 阅读 · 0 评论 -
学习笔记——机器学习--高斯判别分布与逻辑回归之间巧合
本文讲有关高斯判别分布与逻辑回归之间有趣的联系。 假设有一个训练集合,包含一些负样本和一些正样本。现对每一类样本拟合出一个概率密度函数,则如图所示分别拟合出P(x|y=0);P(x|y=1)P(x|y=0);P(x|y=1)P(x\left| y=0 \right.);P(x\left| y=1 \right.)两类高斯概率密度函数,同时也会拟合出伯努利分布P(y)P(y)P(y)。则 ...原创 2018-08-10 10:08:07 · 1461 阅读 · 0 评论 -
学习笔记——机器学习--多项式分布及Softmax回归模型推导
在一个多分类问题,预测变量yyy可以取kkk个离散值中的任何一个,即y∈{1,2,⋯,k}y∈{1,2,⋯,k}y\in \{1,2,\cdots ,k\}。 例如:在一个邮件分类系统将邮件分为私人邮件,工作邮件和垃圾邮件。由于yyy仍然是一个离散值,这种多分类问题,二分类模型在这里不太适用。 多分类问题符合多项分布。有许多算法可用于解决多分类问题,像决策树、朴素贝叶斯等。本文主要讲解多分类算...原创 2018-08-09 18:37:06 · 2512 阅读 · 0 评论 -
学习笔记——机器学习--逻辑回归理论推导
在介绍Logistic Regression之前我们先简单说一下线性回归,,线性回归的主要思想就是通过历史数据拟合出一条直线,用这条直线对新的数据进行预测 线性回归的公式如下: y=hθ(x)=θ0+θ1x1+θ2x2+⋯+θnxn=θTx(3115)(3115)y=hθ(x)=θ0+θ1x1+θ2x2+⋯+θnxn=θTx\begin{align}y={{h}_{\theta }}(x)...原创 2018-08-09 14:15:31 · 515 阅读 · 0 评论 -
Python 用凝聚层次聚类进行数据分组
本文主要参考《Python机器学习经典实例》 在介绍凝聚层次聚类之前,我们需要先理解层次聚类(hierarchical clustering)。层次聚类是一组聚类算法,通过不断地分解或合并集群来构建树状集群(tree-like clusters)。层次聚类的结构可以用一颗树表示。层次聚类算法可以是自下而上的,也可以是自上而下的。具体是什么含义呢?在自下而上的算法中,每个数据点都被...原创 2018-06-26 16:01:47 · 4913 阅读 · 0 评论