1、作业情况
首先根据15个作业来说明本次课程要讲解的主体内容:
其中,蓝色圈圈表示(数分钟完成) 黄色三角表示(数小时完成)红色星星表示(数日完成)
2、什么是机器学习?
简单来说,机器学习就是自动找到一个函数来帮我们解决问题的。
- 比如你输入一段语音,机器学习就会找到一个函数来识别出语音中的文字
- 你输入一个猫猫的图片,机器就会找到一个函数来说明它就是一只猫
- alpha GO
- 对话机器人
3、我们要找什么样的函数?
根据,不同的问题情境,我们需要不同的函数
- Rregression,注意当我们需要的输出是一个数值时,我们就要这样一个function
- classfication,我们想要的结果就是判断yes or no的问题时(二分类问题),我想要找一个这样一个function;同样,也有多分类的问题,也即让机器在n个选项中,选择正确的哪一项,让机器进行选择。
- Generation,生成类问题,我们想让机器学习如何创造一个事物。
对于我们不同的需求,有以上不同的function 可以来定义,李老师补充说明了这三者之间的关系:你以为回归和分类已经是五大洲,但相较于Generation,Genderation才是最后的黑暗大路。
4、怎么样告诉机器我们要什么样的函数
我们心里已经想好了用什么样的函数,那怎么把我们心里的想法传递给机器呢?我们可以通过Supervise Learning,Reinforcement Learning和Unsupervised Learning这些方式。
比如,我们需要找到这样一个函数,输入一个图片,输出这个图片属于什么类别,是猫还是狗…
在supervise learning的想法里面,我们怎么告诉他我们想要的函数长什么样子呢?我们需要给机器一些训练资料,让机器知道,给一张狗的图片,我们希望他输出一只狗,给一张猫的图片我们希望她输出一只猫,这也是对数据label的过程。这样我们就知道了,给机器一堆被标注的训练数据去学习的过程就是supervise learning。那机器是怎样进行学习的呢? 当我们提供给机器一堆带标注的训练数据时,机器就能评估函数的好坏,利用函数的loss,使这个loss越小越好,越小就说明输出的结果就是离我们心里想要的结果越近。
- Supervised Learning(监督学习)
监督学习需要大量的training data(训练数据),training data告诉机器针对这个 input 你要输出一个什么样的output。因为这里的training data已经对这写数据进行了人工标注,通常我们称其为标签。也就是说,我们要使用supervised learning这样一种技术,我们需要告诉机器,function的input和output分别是什么,而这种output通常是通过人工的方式标注出来的,因此称为人工标注的label,它的缺点是需要大量的人工 effort。 - Reinforcement Learning(强化学习)
区别于监督学习,Supervised Learning会告诉机器正确的答案是什么 ,其特点是Learning from teacher
比如,训练一个聊天机器人,告诉他如果使用者说了“Hello”,你就说“Hi”;如果使用者说了“Bye bye”,你就说“Good bye”;就好像有一个家教在它的旁边手把手地教他每一件事情
Reinforcement Learning 没有告诉机器正确的答案是什么,机器最终 得到的只有一个分数,就是它做的好还是不好,但他不知道自己到底哪里做的不好,他也没有正确的答案;很像真实社会中的学习,你没有一个正确的答案,你只知道自己是做得好还是不好。其特点是Learning from critics
比如,训练一个聊天机器人,让它跟客人直接对话;如果客人勃然大怒把电话挂掉了,那机器就学到一件事情,刚才做错了,它不知道自己哪里做错了,必须自己回去反省检讨到底要如何改进,比如一开始不应该打招呼吗?还是中间不能骂脏话之类的。 - UnSupervised Learning(无监督学习)
与监督学习进行对比,无监督学习就是要学习没有经过标注的数据,让机器无师自通,看机器能够学到什么东西。
5、机器如何实际找出我们想要的函数
我们已经告诉机器我们想要的函数长什么样子,那机器是怎样找到这个函数的呢?
首先给函数一个寻找范围,从简单的线性函数开始,之后再到我们的复杂的函数(也即我们后边会学到的神经网络)之后我们通过优化算法来找到最好的函数。
6、前沿研究
- Explainble AI
- Adversarial Attack
- NetWork compression(网络压缩)
- Anonaly dection
- Transfer Learning(迁移学习)
- meta learning(学习如何学习)
- life long learning(终身学习)