手写机器学习系列
文章平均质量分 89
从数学原理到代码实现的深度剖析
黄嘉成
这个作者很懒,什么都没留下…
展开
-
手写机器学习算法系列01——线性回归
线性回归是最简单的机器学习算法,说白了就是构造一元或者多元的线性方程,然后根据现有样本数据进行函数拟合,求解出线性方程的各个参数,之后就可以通过该线性方程进行相关预测。原创 2019-08-01 15:02:32 · 1480 阅读 · 3 评论 -
手写机器学习算法系列02——梯度下降
在上一篇手写机器学习算法系列01——线性回归中,我们已经成功地通过矩阵求偏导的方法算出目标函数的极小值点。这种最小二乘法的优势在于代码实现会十分简单,直接将样本数据套用以上公式即可求解出任何线性回归模型的参数值。不过缺点也很突出。所以,我们需要学习另一种普遍性更强的方法来求解目标函数的极值点——梯度下降。...原创 2019-08-03 19:34:48 · 1767 阅读 · 1 评论 -
手写机器学习算法系列03——逻辑回归
逻辑回归虽然名字中带有回归,但实质上并不是起到回归作用,而是一种典型的二分类算法。至于为什么叫回归,可能是因为分类过程需要依赖于线性回归模型的输出。多分类问题也可以用逻辑回归来解决,比如通过对每种分类都分别进行一次二分类来实现。...原创 2019-08-08 18:43:41 · 1002 阅读 · 3 评论 -
手写机器学习算法系列04——决策树
决策树(DT,Decision Tree)是一种常用的有监督学习的分类算法,包括ID3、C4.5、C5.0、CART等种类。本文以ID3为例剖析决策树算法的原理和代码实现。原创 2019-08-12 13:01:38 · 1684 阅读 · 1 评论 -
手写机器学习算法系列05——k-means
k-means是一种聚类算法。聚类与之前讲过的分类很相似但实质不一样,分类是已有了明确的类别,然后将样本分到不同类别中去;聚类是事先没有明确的类别,将特征各自相近的样本分别聚在一起。k-means则是原理比较简单的聚类算法。...原创 2019-08-20 11:57:33 · 778 阅读 · 4 评论 -
手写机器学习算法系列06——DBSCAN
我们在上一节介绍了K-means聚类算法和其python实现。但是k-means也存在着诸如不适用于非凸样本,超参数簇聚数目不好指定且对结果影响极大等缺点。针对k-means的上述缺点,今天带来另一种聚类算法,基于密度的聚类算法——DBSCAN。...原创 2019-08-23 16:37:14 · 1066 阅读 · 0 评论 -
手写机器学习算法07——支持向量机
支持向量机(SVM,Support Vector Machine)是一种分类算法,其基本思想是在样本空间中找到一个超平面,在将不同类别的样本分开的前提下,使超平面离距自己最近的样本尽可能远以获得最好的泛化能力原创 2019-09-12 12:27:12 · 3441 阅读 · 4 评论