2020年04月_nineheaded_bird

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 01月

原创【图解例说机器学习】决策树 (Decision Tree)

决策树是一种非参数的有监督的学习方法，可以用来分类和回归，即分类决策树，回归决策树。分类决策树，可以看成是if–then规则的集合，树的每一个中间节点就是一个特征，用来if–then规则的判断，树的每一个叶子节点就是最终的分类结果。基本思想：决策树就是一个，递归地选择最优特征，并根据该特征对训练数据集进行划分，使得对各个子数据集有一个最好的分类，的过程。训练数据集的划分过程就是决策树的构建过程。...

2020-04-30 23:56:13 1083

原创【图解例说机器学习】模型选择：偏差与方差 (Bias vs. Variance)

机器学习的过程大致分为三步：1）模型假设，比如我们假设模型是线性回归，还是多项式回归，以及其阶数的选择；2）误差函数定义，比如我们假设误差函数是均方误差，还是交叉熵；3）参数求解，比如使用正规方程，还是梯度下降等。这篇文章主要讨论模型的选择问题，下面以多项式回归为例进行说明一个例子：多项式回归中的阶数选择在前面的文章【图解例说机器学习】线性回归中，我们定义了广义的线性回归模型，其表达式为：...

2020-04-17 23:49:58 1154

原创【图解例说机器学习】逻辑回归 (Logistic Regression)

在我们日常生活中，我们经常会遇到使用到预测的事例，而预测的值一般可以是连续的，或离散的。比如，在天气预报中，预测明天的最高温，最低温(连续)，亦或是明天是否下雨(离散)。在机器学习中，预测连续性变量的模型称为回归(Regression)模型，比如标准的线性回归，多项式回归；预测离散型变量的模型称为分类(Classification)模型，比如这里要介绍的逻辑回归和以后要提到的支持向量机(SVM)等...

2020-04-14 12:54:52 1489

原创【图解例说机器学习】线性回归 (Linear Regression)

线性回归之于机器学习，正如Hello World之于编程语言，也如MINST之于深度学习。首先，我们先定义一些即将用到的数学符号：NotationsMeaningNotationsMeaningMMMNumber of parameters w\mathrm wwNNNNumber of instancesX={x1,x2,⋯ ,xN}T\mathrm ...

2020-04-06 20:46:01 1569