Andrew Ng机器学习课程笔记（一）

一.机器学习的定义：

• 非正式定义：由Arthur Samuel提出
  Machine Learning：Field of study that gives computers the ability to learn without being explicitly programmed.（在不直接针对问题进行编程的情况下赋予计算机学习能力的一个研究领域。）

• Tom Mitchell提出：
  对于一个计算机程序来说，给它一个任务T和一个性能测量方法P，如果在经验E的影响下，P和T的测量结果得到了改进，那么就说该程序从E中学习。

二课程的四部分

• 监督学习supervised learning
  （一）回归问题regression
  预测的是连续值
  （二）分类问题classification
  预测的是离散值

• 学习理论learning Theory
  理解为什么学习型算法是有效的，这样才能尽可能高效地工作。
  对学习理论进行深入研究以了解什么样的算法能很好地近似不同的函数，并且试图了解需要多少数据量来进行训练等

• 无监督学习
  （一）聚类
  用于计算机集群组织
  社会网络分析
  市场规划
  处理图像

  （二）鸡尾酒会问题
  在有很多人参加的鸡尾酒会中，在嘈杂的人群中将你感兴趣的那个人说的话提取出来！
  独立成分分析

  （三）文本分类

  （四）理解功能分级和机械数据
  电磁大脑

• 强化学习 reinforcement learning
  在强化学习问题中，通常在一段时间内要做出一系列决策。
  重要概念：回报函数（reward function）
  做得好的时候，给奖励
  做得差的时候，给惩罚
  如何定义一个好的行为和一个坏的行为，之后需要一个学习模型尽可能地获得更多的回报和更少的惩罚。

  用于机器人领域：不可能人工编写控制程序，通过学习型算法，写一个简单得多的程序来让机器人做一些神奇的事情。
  用于网页爬取