斯坦福大学公开课 ：Andrew Ng 机器学习课堂笔记之第一节（机器学习的动机与应用）

第一节：机器学习的动机与应用

准备系统的学习以下机器学习的理论基础，找来机器学习大牛Andrew Ng的课程来啃，Mark一下，哈哈。
坚持记以下课堂笔记。。。。
：：：：：：：：：上海杨浦区佳木斯路星巴克

---

一 课程内容简介

第一节主要是课程综述，机器学习的定义，学习算法的应用，课程安排等等

• 机器学习的动机与应用、Logistic类、机器学习的定义、监督学习概观、学习理论概述、非监督学习概述、强化学习概述。

---

二 主要知识点

• Machine Learning definition:是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，主要使用归纳、综合而不是演绎

• supervised learning:在监督式学习下，输入数据被称为“训练数据”，每组训练数据有一个明确的标识或结果,如对防垃圾邮件系统中“垃圾邮件”“非垃圾邮件”，对手写数字识别中的“1“，”2“，”3“，”4“等。在建立预测模型的时候，监督式学习建立一个学习过程，将预测结果与“训练数据”的实际结果进行比较，不断的调整预测模型，直到模型的预测结果达到一个预期的准确率。

• unsupervised learning:输入数据没有被标记，也没有确定的结果。样本数据类别未知，需要根据样本间的相似性对样本集进行分类（聚类，clustering）试图使类内差距最小化，类间差距最大化。通俗点将就是实际应用中，不少情况下无法预先知道样本的标签，也就是说没有训练样本对应的类别，因而只能从原先没有样本标签的样本集开始学习分类器设计。
  非监督学习目标不是告诉计算机怎么做，而是让它（计算机）自己去学习怎样做事情。

• reinforcement learning:在这种学习模式下，输入数据作为对模型的反馈，不像监督模型那样，输入数据仅仅是作为一个检查模型对错的方式，在强化学习下，输入数据直接反馈到模型，模型必须对此立刻作出调整。常见的应用场景包括动态系统以及机器人控制等。

• classification:分类：通过学习来得到样本属性与类标号之间的关系。
  用自己的话来说，就是我们根据已知的一些样本（包括属性与类标号）来得到分类模型（即得到样本属性与类标号之间的函数），然后通过此目标函数来对只包含属性的样本数据进行分类。

• clustering:聚类指事先并不知道任何样本的类别标号，希望通过某种算法来把一组未知类别的样本划分成若干类别，聚类的时候，我们并不关心某一类是什么，我们需要实现的目标只是把相似的东西聚到一起，这在机器学习中被称作 unsupervised learning （无监督学习）

• reward function回报函数：定义需要找到一种方式，来定义你想要什么？

• ICA algorithm:独立成分分析（Independent Component Analysis, ICA）,ICA是一种用来从多变量（多维）统计数据里找到隐含的因素或成分的方法，被认为是主成分分析（Principal Component Analysis, PCA）和因子分析（Factor Analysis）的一种扩展。对于盲源分离问题，ICA是指在只知道混合信号，而不知道源信号、噪声以及混合机制的情况下，分离或近似地分离出源信号的一种分析过程 。参考：1, 2
  ICA认为观测信号是若干个统计独立的分量的线性组合，ICA要做的是一个解混过程。而PCA是一个信息提取的过程，将原始数据降维，现已成为ICA将数据标准化的预处理步骤。参考：3

---