机器学习概述

人工智能概念

AI : Artificial Intelligence 人工智能

仿智, 使用计算机模拟/替代人类

ML : Machine Learning 机器学习

机器自动学习,不是人为规则编程

DL : Deep Learning 深度学习

大脑仿生,设计一层一层神经元模拟万事万物

AI发展三要素: 数据、算法、算力

机器学习常用术语

样本sample/记录 : 一行数据一个样本

特征feature/属性 : 一列数据一个特征

标签/目标 label/target : 模型要预测的那一列数据

数据集划分

训练集 测试集

训练集 training set : 用来训练模型 model 的数据集

测试集 testing set : 用来测试模型的数据集

算法分类

有监督学习

输入数据由特征值和目标值构成

数据集需要人工标注

分类

目标值是不连续的

分类种类: 二分类、多分类

回归

目标值是连续的

无监督学习

输入数据没有标签

数据集不需要标注数据

特点: 训练数据无标签 , 根据样本间相似性对样本集聚类,发现事物内部结构和相互关系

半监督学习

部分样本有目标值,部分数据无目标值

强化学习 Reinforcement Learning

智能体不断与环境交互,通过获取最大奖励方式,来获得最佳策略;主要包含四个元素:Agent(智能体), 环境(Environment),

行动(Action), 奖励(reward)

机器学习建模流程

1 获取数据 2 数据基本处理 3 特征工程 4 机器学习 5 模型评估

特征工程

1 特征提取 : 从原始数据提取任务相关特征

2 特征预处理 : 特征对模型产生影响

3 特征降维 : 降低数据维度

4 特征选择 : 特征子集

5 特征组合 : 多个特征合并成一个特征. 加/乘

拟合 fitting

欠拟合 under - fitting

训练集和测试集表现都差

原因: 模型过简单

解决办法: 增加特征

过拟合 over - fitting

训练集表现好, 测试集表现差

原因: 模型过复杂,数据不纯,训练数据过少

解决办法: 正则化,异常值检测,特征降维

泛化 Generalization

模型在新数据集上表现好坏能力

奥卡姆剃刀原则

相同泛化误差的模型.取较简单的模型