林轩田机器学习基石——笔记1.1 The Learning Problem

When can Mechine learn？

The Learning Problem

What is Mechine learn？

When can Mechine learn? 

Application of Mechine learn

Component of learn**

Machine Learning and Other Field

Why can Mechine learn？

How can Mechine learn？

How can Mechine learn better？

---

When can Mechine learn？

1.The Learning Problem

1.1What is Mechine learn？

        对于人类来说，我们通过观察来学习事物和技巧，然而，对于机器学习，我们通过从数据的经验累积和计算来获取skill。

What is skill? <-> improve some performance measure

1.2When can Mechine learn? 

Condition

• exists some underlying pattern to be learned
• no programmable easy definition
• somehow there is data about

        通常能够想到的是，指定规则来让机器进行学习。但是有些规则难以定义（比如：我要从一张图片中判断是否有一颗树，那该如何定义这颗树，是很困难的事情）所以不如让机器自己学习其中的特征。并且有一些潜在的模式需要学习，且对于大量数据来说，机器学习比人类会更加高效。

        授人以鱼不如授人以渔。

1.3Application of Mechine learn

ML is everywhere！

1.4Component of learn**

        A takes D and H to get g

ex：对于银行，现有一个要对用户发信用卡的需求，需要知道哪些用户可以发信用卡，哪些不可以？这是一个很典型的机器学习的例子，我们需要根据D，通过A，在H中选择最好的h，得到g，接近目标函数f，也就是根据先验知识建立是否给用户发放信用卡的模型。

        unknown pattern to be learned : approve credit card good for bank?

        我们不知道f：x->y（target function），但是通过learn algorithm进行大量data的学习，进行一些假设来得到一个g：x->y，其中g ≈ f。        

从未知规律的数据中，通过学习算法去挖掘，让最终的 g 接近 f

注意点：

• 目标函数，f是未知
• 假说是希望g尽可能的接近f，但是可能还是不同于f

↑g是什么？

        假定，在learning alorithm 中可能的公式（good or bad）

        h0：年收入超过十万就给信用卡

        h1：负债超过十万就给信用卡

        h2：工作不满两年就给信用卡

        ....

        选一个机器学习演算法选一个最好的出来。

learning model = A and H（演算法+参数）

1.5Machine Learning and Other Field

与ML相似的：DM，AI，Statistics

• 机器学习和数据挖掘，非常相像，有些地方还是一样，密不可分
• 机器学习是实现人工智能的一种方式
• 统计是实现机器学习的一种方法，统计更加关注使用数学理论来给出结果，很少关心计算的问题。统计学给机器学习提供了很多有用的工具。