机器学习（ML）、监督学习(Supervised Learning)和非监督学习(Unsupervised Learning)

在机器学习领域，学习任务可大致划分为两类，一种是监督学习，另一种是非监督学习。

1. 机器学习：

**机器学习的思路：**利用一些训练数据（已经做过的题），使机器能够利用它们（解题方法）分析未知数据（考场的题目）。就像考试前老师给我们预测考试会考什么一样。
简单的一句话：机器学习就是让机器从大量的数据集中学习，进而得到一个更加符合现实规律的模型，通过对模型的使用使得机器比以往表现的更好。

2. 监督学习

**定义：**根据已有的数据集，知道输入和输出结果之间的关系。根据这种已知的关系，训练得到一个最优的模型。也就是说，在监督学习中训练数据既有特征(feature)又有标签(label)，通过训练，让机器可以自己找到特征和标签之间的联系，在面对只有特征没有标签的数据时，可以判断出标签。
通俗一点，可以把机器学习理解为我们教机器如何做事情。
监督学习的分类：回归(Regression）、分类（Classification)
(1)回归(Regression）：回归问题是针对于连续型变量的。举例：预测房屋价格
假设想要预测房屋价格，绘制了下面这样的数据集。水平轴上，不同房屋的尺寸是平方英尺，在竖直轴上，是不同房子的价格，单位时（千万$）。给定数据，假设一个人有一栋房子，750平方英尺，他要卖掉这栋房子，想知道能卖多少钱。这个时候，监督学习中的回归算法就能派上用场了，我们可以根据数据集来画直线或者二阶函数等来拟合数据。
通过图像，我们可以看出直线拟合出来的150k,曲线拟合出来是200k,所以要不断训练学习，找到最合适的模型得到拟合数据（房价）。回归通俗一点就是，对已经存在的点（训练数据）进行分析，拟合出适当的函数模型y=f(x)，这里y就是数据的标签，而对于一个新的自变量x，通过这个函数模型得到标签y。

(2)分类（Classification) : 和回归最大的区别在于，分类是针对离散型的，输出的结果是有限的。举例：估计肿瘤性质
假设某人发现了一个乳腺瘤，在乳腺上有个z肿块，恶性瘤是危险的、有害的；良性瘤是无害的。
假设在数据集中，水平轴是瘤的尺寸，竖直轴是1或0，也可以是Y或N。在已知肿瘤样例中，恶性的标为1，良性的标为0。那么，如下，蓝色的样例便是良性的，红色的是恶性的。这个时候，机器学习的任务就是估计该肿瘤的性质，是恶性的还是良性的。 那么分类就派上了用场，在这个例子中就是向模型输入人的各种数据的训练样本（这里是肿瘤的尺寸，当然现实生活里会用更多的数据，如年龄等），产生“输入一个人的数据，判断是否患有癌症”的结果，结果必定是离散的，只有“是”或“否”。

所以简单来说分类就是，要通过分析输入的特征向量，对于一个新的向量得到其标签。

3. 无监督学习

**定义：**我们不知道数据集中数据、特征之间的关系，而是要根据聚类或一定的模型得到数据之间的关系。可以这么说，比起监督学习，无监督学习更像是自学，让机器学会自己做事情，是没有标签（label）的。
接刚刚上面机器学习解释时用到的例子来更好理解一下二者的区别：
对于平时的考试来说，监督学习相当于我们做了很多题目都知道它的标准答案，所以在学习的过程中，我们可以通过对照答案，来分析问题找出方法，下一次在面对没有答案的问题时，往往也可以正确地解决。 而无监督学习，是我们不知道任何的答案，也不知道自己做得对不对，但是做题的过程中，就算不知道答案，我们还是可以大致的将语文，数学，英语这些题目分开，因为这些问题内在还是具有一定的联系。 如下图所示，在无监督学习中，我们只是给定了一组数据，我们的目标是发现这组数据中的特殊结构。例如我们使用无监督学习算法会将这组数据分成两个不同的簇,，这样的算法就叫聚类算法。

生活中的应用：
1.Google新闻按照内容结构的不同分成财经，娱乐，体育等不同的标签，这就是无监督学习中的聚类。
2.根据给定基因把人群分类。如图是DNA数据，对于一组不同的人我们测量他们DNA中对于一个特定基因的表达程度。然后根据测量结果可以用聚类算法将他们分成不同的类型。这就是一种无监督学习, 因为我们只是给定了一些数据，而并不知道哪些是第一种类型的人，哪些是第二种类型的人等等。

4. 有监督学习和无监督学习

对于分类问题来说，x是一些西瓜，y是属于的类别，好的西瓜或者坏的西瓜。现在我们已经知道每一个西瓜是好的或坏的，如果我们有一个新的西瓜，我们需要根据之前的经验判断它是好的或者坏的。
对于回归问题来说，x是西瓜，y是真实值响应。我们知道这个西瓜是3000日元，这个西瓜是4000日元，这个西瓜是3500日元，如果我们有一个新的西瓜，我们需要根据之前的经验去预测这个西瓜多少钱。对于聚类问题来说，我们只知道我们有这些西瓜，x是西瓜，也许他们有一些不同之处，也许是更好吃或不好吃，也许是更便宜或不便宜，我们需要计算机自己去找到一些特征，将这些相似的西瓜聚成一类，如果我们有一个新的西瓜，需要判断它属于哪一类。

尽管当前监督学习技术已经取得了巨大的成功，但是值得注意的是，由于数据标注过程的成本太高，很多任务很难获得如全部真值标签这样的强监督信息。而无监督学习由于学习过程太过困难，它的发展缓慢。因此，希望机器学习技术能够在弱监督状态下工作。南京大学周志华教授在2018年1月发表了一篇论文，叫做《A Brief Introduction to Weakly Supervised Learning》，对机器学习任务给出了一个新的趋势和思路。个人觉得总结的非常好，大受启发，有兴趣的小伙伴可以去看看原论文～

5. 弱监督学习及分类

文章里说，弱监督学习可以分为三种典型的类型：不完全监督（Incomplete supervision），不确切监督（Inexact supervision），不精确监督（Inaccurate supervision）。

不完全监督是指，训练数据中只有一部分数据被给了标签，有一些数据是没有标签的。

不确切监督是指，训练数据只给出了粗粒度标签。我们可以把输入想象成一个包，这个包里面有一些示例，我们只知道这个包的标签，Y或N，但是我们不知道每个示例的标签。

不精确监督是指，给出的标签不总是正确的，比如本来应该是Y的标签被错误标记成了N。

我们还是用最简单的西瓜的例子来直观理解一下这三者的区别。

**最左边是不完全监督：**即我们可以看到有一些西瓜有标签，而有一些西瓜没有标签，标注并不完全。

**中间的是不确切监督：**对于这种情况，我们可以把这个想象成一个包，只知道这里面有西瓜但是不知道西瓜在哪个位置，也不知道有几个，这种情况叫不确切监督。

最右边的是不精确监督: 即假设我们有一些西瓜，但是有一些被错误标注为菠萝，那我们称之为不精确监督。

我们将分别对待这些类型的弱监督学习，但值得一提的是，在实际操作中，它们经常同时发生。