![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
云端一散仙
主要在做图像,点云方向,欢迎讨论~
展开
-
损失函数
机器学习中的所有算法都依赖于最小化或最大化某一个函数,我们称之为“目标函数”。最小化的这组函数被称为“损失函数”。 机器学习算法主要解决分类问题和回归问题两大类,因此损失函数主要也可以分成这两大类别。 损失函数分为经验风险损失函数和结构风险损失函数。经验风险损失函数指预测结果和实际结果的差别,结构风险损失函数是指经验风险损失函数加上正则项。 Hinge 损失函数(分类损失函数) L(y,f(x))=max(0,1−yf(x)) L(y,f(x)) = max(0,1-yf(x)) L(y,f(x))=m原创 2020-07-22 17:22:06 · 261 阅读 · 0 评论 -
SVM写给自己看
函数间隔Functional margin与几何间隔Geometrical margin 假设我们的超平面可以用公式表示:wTx+b=0w^Tx+b=0wTx+b=0,∣wTx+b∣|w^Tx+b|∣wTx+b∣能够表示点x到距离超平面的远近,对于一个样本(x1,y1)(x^1,y^1)(x1,y1),我们定义它到超平面的函数间隔为 γ^=y1(wTx1+b) \hat\gamma=y^1(w^Tx^1+b) γ^=y1(wTx1+b) 那么对于这个平面上任意两个点xi,xjx^i,x^jxi,xj都.原创 2020-07-17 17:22:52 · 134 阅读 · 0 评论 -
Logistic Regression写给自己看
LR这个,我自己也不是很懂,先暂时记录下一些自己的理解,写给自己看的 逻辑回归(Logistic Regression)与线性回归(Linear Regression)都是一种广义线性模型(generalized linear model)。逻辑回归假设因变量 y 服从伯努利分布,而线性回归假设因变量 y 服从高斯分布。 伯努利分布:(Bernoulli distribution,又名两点分布或者0-1分布,是一个离散型概率分布,为纪念瑞士科学家雅各布·伯努利而命名。)若伯努利试验成功,则伯努利随机变量取原创 2020-07-17 14:41:00 · 87 阅读 · 0 评论 -
K-Means,MeanShift,KNN小结
K-Means 算法思想: 首先需要指定k值,k所指的意思就是,最后会将样本分成k组。 每组都有一个manager,开始的时候,manager是从所有样本中随机挑选k个,剩下样本都是staff,然后计算每个staff与每个manager的距离。 根据最小的距离值,将staff与对应的manager划为一个小组,然后重新选取manager,之前的manager变成staff,选取的方法就是根据当前小组所有人的位置(x,y)相加除以个数,得到一个manager的位置,这个manager可以是虚构的。 然后,重原创 2020-07-08 16:33:25 · 418 阅读 · 0 评论