李宏毅机器学习笔记第1周-机器学习基本概念

一、机器学习的概念

机器学习是从数据中自动分析获得模型，并利用模型对未知数据进行预测。简单说就是让机器自动找到一个合适的函数。相当与人一样，我们每时每刻在环境中收获数据，这些数据在我们人的脑海中形成经验，通过自己的思维对经验进行总结归纳形成规律。在遇到新的问题，我会通过规律解决当下的问题。

二、机器学习的应用领域

机器学习的领域主要应用在自然语言处理、图像识别、传统预测。在自然语言处理领域中，应用场景在文本分类、情感分析、自动聊天、文本检测等；在图像识别领域中，应用场景在人脸识别、街道交通标志检测等；在预测领域中，应用场景在店铺销量预测、量化投资、广告推荐、企业客户分类等。

三、监督学习（Supervised learning）

监督学习是指通过让机器学习大量带有标签的样本数据，训练出一个模型，并使该模型可以根据输入得到相应输出的过程。有了标签，我们可以评价一个函数的好坏，进而去优化整个函数。

四、加强学习（Reinforcement learning）

原始的AlpahGo是先通过有监督学习优化到一定程度，然后用强化学习继续优化。新版本的AlphaGo是完全通过强化学习实现的，优于原始的AlphaGo。

五、无监督学习（Unsupervised Learning）

无监督学习是指让机器自学，是没有标签的一种学习。无法清楚判断数据集中数据、特征之间的关系，而是要根据聚类或一定的模型得到数据之间的关系。

六、损失函数（Loss Function）

判断是否寻找到合适的函数

七、Sigmoid函数

Sigmoid函数具有单调递增及反函数单调递增的特性，常被用做神经网络的激活函数，将变量映射到0，1之间。由于Sigmoid函数曲线平滑及易于求导，处理特征相差不大或者更加复杂的数据效果会比较好。

八、机器学习的三个步骤

1、如何找到一系列的函数集（Function Set）来实现预期功能，这是一个建模问题。
2、如何找到一系列评价标准来评价函数的好坏，这是一个评价问题。
3、如何快速找到更好的函数，这是一个优化问题。

九、前沿研究

1、AI的可解释性（Explainable AI)
前提：不同的应用场景和交流语境
把模型的行为变成人类理解的因果关系。
2、对抗攻击（Adversarial Attack)
对输入故意添加一些人无法察觉的细微的干扰，导致模型以高置信度给出一个错误的输出。
3、模型压缩（Network Compression)
把模型压缩以减少模型对计算资源消耗。
4、异常检测（Anomaly Detection)
使机器知道它遇到了自己不知道的东西。
5、迁移学习（Transfer Learning)
一个预训练的模型被重新用在另一个任务中。
6、元学习（Meta Learning)
让机器学习如何学习。
7、终身学习（Life-Long Learning)
让机器终身学习。