林轩田机器学习基石课程学习笔记1.The Learning Problem

Course Introduction

• 机器学习是一门理论与实践结合的学科,不能讲的太理论,这样就会无聊,不知道如何用在实际的问题上.
• 不能全讲机器学习的方法,这样的话在遇到实际问题时,不知道用那个方法
• 面向基础(foundation oriented)

• 基石包括:哲学上的思想,数学工具,演算法的设计与使用.
• when,why,how,how better
• 学习完之后,你可以使用机器学习到你的领域,学习机器学习的理论,学习机器学习的演算法.

When Can Machines Learn?(何时可以使用机器学习)

The learning problem(机器学习问题)

What is Machine Learning

• 学习例子 听课,看书,学到东西

• 学习共性:从观察出发(听,视…),经过脑袋,变成技巧.(人类或者其它生物的学习,大概可以被这个框架所涵盖住.)

• 机器学习是我们想来模仿类似的过程

• 机器的观察就是资料.

• 技巧是什么?
  

• 技巧是:某一种表现的提高(例如预测精度/学了数学,数学考试分数更高)

• 我们想要电脑做某一件事(如预测股票,如果预测的好,赚到钱了,就可以说电脑学到东西了)

• 为什么要用机器学习?
  

• 定义一棵树,写下来(如果要编程实现辨识一棵树的话,必须要把它的定义写下来)

• 定义一棵树太难了,我们小时候学习不是全通过规则,而是通过观察+规则做到的

• 机器学习有时候比手写程序更简单 ML:构建复杂系统的另一条道路.
  

• 教机器钓鱼,而不是给他鱼吃.
  

• 机器学习的关键,机器学习不一定适用在每一个地方

  1. 存在隐藏的模式
  2. 不容易编程解决
  3. 有数据

  Applications of Machine Learning(机器学习的应用)

  

  • 上面是一些机器学习的例子,ML无处不在
    
  • 根据学生答题的记录,推测出学生的能力和题目的困难度.

Components of Machine Learning

• 这一节是从抽象到具体的讲解机器学习问题
• 银行根据客户的资料,决定是不是给他发信用卡.
  
• 将学习问题正式化,符号化.
• 输入x
• 输出y
• 目标函数 f
• 数据(x1,y1)
• 假设 g
  
• f 不知道
• g和f越像越好
  
• g的集合叫做H
• 演算法的输入 D and H
• 演算法会选一个它认为是最好的,但不一定是最好的,要通过(validation)
• model = A+H

Machine Learning and Other Fields

• Data Mining 找到一些有趣的事情.(啤酒和尿布的故事)
  
• 做看起来是智能的事情.机器学习是实现人工智能的方法之一.
  
• 统计是实现机器学习的一种方法
  
• 机器学习通过data找到一个g,这个g与f越接近越好.机器学习可以用在很多地方,机器学习的核心是A从D和H中得到g,机器学习和许多其它的领域有关系.下一课讲一个模型.