Python 全栈体系【四阶】（四）

第四章 机器学习

一、人工智能概述

1. 什么是人工智能

人工智能（Artificial Intelligence）是计算机科学的一个分支学科，主要研究用计算机模拟人的思考方式和行为方式，从而在某些领域代替人进行工作。

2. 人工智能的学科体系

以下是人工智能学科体系图：

• 机器学习（Machine Learning）：人工智能的一个子学科，研究人工智能领域的基本算法、原理、思想方法，机器学习研究的内容在其它子学科都会用到
• 计算机视觉（Computer Vision）：研究计算机处理、识别、理解图像、视频的相关技术
• 自然语言处理（Natural Language Processing）：研究计算机理解人类自然语言的相关技术
• 语言处理：研究计算机理解识别、理解、合成语音的相关技术

3. 人工智能与传统软件的区别

传统软件：执行人的指令和想法，在执行之前人已经有了解决方案，无法超越人的思想和认识范围

人工智能：尝试突破人的思想和认识范围，让计算机学习到新的能力，尝试解决传统软件的难题

二、机器学习基本概念

1. 什么是机器学习

1975 年图灵奖获得者、1978 年诺贝尔经济学奖获得者、著名学者赫伯特.西蒙（Herbert Simon）曾下过一个定义：如果一个系统，能够通过执行某个过程，就此改进了它的性能，那么这个过程就是学习。由此可看出，学习的目的就是改善性能。

卡耐基梅隆大学机器学习和人工智能教授汤姆.米切尔（Tom Mitchell）在他的经典教材《机器学习》中，给出了更为具体的定义：对于某类任务（Task，简称 T）和某项性能评价准则（Performance，简称 P），如果一个计算机在程序 T 上，以 P 作为性能度量，随着经验（Experience，简称 E）的积累，不断自我完善，那么我们称计算机程序从经验 E 中进行了学习。

例如，篮球运动员投篮训练过程：球员投篮（任务 T），以准确率为性能度量（P），随着不断练习（经验 E），准确率不断提高，这个过程称为学习。

2. 为什么需要机器学习

程序自我升级

解决那些算法过于复杂，甚至没有已知算法的问题

在机器学习的过程中，协助人类获得事物的洞见

3. 机器学习的形式

3.1 建模问题

所谓机器学习，在形式上可近似等同于在数据对象中通过统计、推理的方法，来寻找一个接受特定输入 X，并给出预期输出 Y 功能函数 f，即 $Y=f(x)$。这个函数以及确定函数的参数被称为模型。

3.2 评估问题

针对已知的输入，函数给出的输出（预测值）与实际输出（目标值）之间存在一定误差，因此需要构建一个评估体系，根据误差大小判定函数的优劣。

3.3 优化问题

学习的核心在与改善性能，通过数据对算法的反复锤炼，不断提升函数预测的准确性，直至获得能够满足实际需求的最优解，这个过程就是机器学习。

4. 机器学习的分类（重点）

4.1 有监督、无监督、半监督学习

4.1.1 有监督学习

在已知数据输出（经过标注的）的情况下对模型进行训练，根据输出进行调整、优化的学习方式称为有监督学习。

• 在训练数据中，有输出数据（类别标签）的为有监督学习。

4.1.2 无监督学习

没有已知输出的情况下，仅仅根据输入信息的相关性，进行类别的划分。

• 在训练数据中，没有输出数据（类别标签）的为无监督学习。

4.1.3 半监督

先通过无监督学习划分类别，再人工标记通过有监督学习方式来预测输出。例如先对相似的水果进行聚类，再识别是哪个类别。

4.1.4 强化学习

通过对不同决策结果的奖励、惩罚，使机器学习系统在经过足够长时间的训练以后，越来越倾向于接近期望结果的输出。

4.2 批量学习、增量学习

4.2.1 批量学习

将学习过程和应用过程分开，用全部训练数据训练模型，然后再在应用场景中进行预测，当预测结果不够理想时，重新回到学习过程，如此循环。

4.2.2 增量学习

将学习过程和应用过程统一起来，在应用的同时，以增量的方式不断学习新的内容，边训练、边预测。

4.3 基于模型学习、基于实例学习

4.3.1 基于模型的学习

根据样本数据，建立用于联系输出和输出的某种数学模型，将待预测输入带入该模型，预测其结果。例如有如下输入输出关系：

输入（x）	输出（y）
1	2
2	4
3	6
4	8

根据数据，得到模型 $y=2x$

预测：输入 9 时，输出是多少？

4.3.2 基于实例的学习

根据以往经验，寻找与待预测输入最接近的样本，以其输出作为预测结果（从数据中心找答案）。例如有如下一组数据：

学历(x1)	工作经验(x2)	性别(x3)	月薪(y)
本科	3	男	8000
硕士	2	女	10000
博士	2	男	15000

预测：本科，3，男 ==> 薪资？

5. 机器学习的一般过程（重点）

5.1 数据收集

手段如手工采集、设备自动化采集、爬虫等

5.2 数据清洗

数据规范、具有较大误差的、没有意义的数据进行清理

• 注：以上称之为数据处理，包括数据检索、数据挖掘、爬虫…

5.3 选择模型（算法）

5.4 训练模型

5.5 模型评估

5.6 测试模型

• 注：3~6 步主要是机器学习过程，包括算法、框架、工具等…

5.7 应用模型

5.8 模型维护

6. 机器学习的典型应用

股价预测

推荐算法

自然语言处理

语音处理：语音识别、语音合成

图像识别、人脸识别

……

7. 机器学习的基本问题（重点）

7.1 回归问题

根据已知的输入和输出，寻找某种性能最佳的模型，将未知输出的输入代入模型，得到连续的输出。例如：

• 根据房屋面积、地段、修建年代以及其它条件预测房屋价格
• 根据各种外部条件预测某支股票的价格
• 根据农业、气象等数据预测粮食收成
• 计算两个人脸的相似度

（预测值为连续值）

7.2 分类问题

根据已知的输入和输出，寻找性能最佳的模型，将未知输出的输入带入模型，得到离散的输出。例如：

• 手写体识别（10 个类别分类问题）
• 水果、鲜花、动物识别
• 工业产品瑕疵检测（良品、次品二分类问题）
• 识别一个句子表达的情绪（正面、负面、中性）

（预测值为离散值）

7.3 聚类问题

根据已知输入的相似程度，将其划分为不同的群落，例如：

• 根据一批麦粒的数据，判断哪些属于同一个品种
• 根据客户在电商网站的浏览和购买历史，判断哪些客户对某件商品感兴趣
• 判断哪些客户具有更高的相似度

7.4 降维问题

在性能损失尽可能小的情况下，降低数据的复杂度，数据规模缩小都称为降维问题。

8. 机器学习大纲