第一周机器学习课程简介

0.关于人工智能、机器学习与深度学习

1.机器学习定义一

Machine learning is a technique of data science that helps computers learn from existing data in order to forecast future behaviors, outcomes and trends.

2.机器学习定义二（学科角度）

针对经验性数据，使用计算机通过模拟人类学习和获取信息的准则来处理以预测为终极目标问题的一系列过程称为机器学习、这一系列过程是“学习过程”，包括统计建模，优化处理，算法设计和统计分析。机器学习是数学、统计学、计算机科学的综合交叉学科。

3.机器学习定义三（数学角度）

Machine Learning ≈ Looking for a Function

4.学习问题的举例

（1）预测：回归

·输入X,输出Y

·建模

找一个函数

(1)线性函数: $f(x)=x^T\beta$

(2)非线性组合:

$f(x)={\sum }_m^{i=1}{\beta }_i\varphi (x^{T}w+b)(NN)$
$\varphi (x)=\frac{1}{1+e^{-x}}(sigmod)$

$f(x)={\sum }_{i=1}^m{\alpha }_i{K}_{sigma}(x,x_i)(SVM)$

·算法：求解模型中的参数

针对线性模型

   ·最小二乘法 OLS
   ·岭回归方法 RR

针对非线性模型

   ·神经网络BP算法 NN
   ·支持向量机算法 SVM
   ·随机森林算法 RF

（2）分类
（3）排序 网页搜索、推荐系统
（4）降维
\quad 变量选择，输出变量是输入变量的每个分量的线性函数或非线性函数——新的变量
\quad 特征工程、可视化

5.机器学习的应用流程(CRISP-DM)

6.机器学习的分类

·监督学习

标记训练数据集，使用标记数据进行训练
我们给机器数据，包括输入和输出，并让它从它们之间的关系中学习
训练模型，为新数据的响应变量生成合理的预测
大多数机器学习都受到监督

·无监督学习

未标记的训练数据集，无监督学习用于没有标签的数据
目标是找到数据中的模式或内在结构。这也是以魔宗方式简化数据（减少维度、删除不必要变量或检测异常）的好方法
聚类是最常见的无监督学习技术

·半监督学习

部分标记的训练数据集，通常少量标记，训练阶段有大量未标记数据的数据
半监督学习介于无监督学习和监督学习之间
与使用所有标记的数据相比，从该训练集得出的训练模型可以高度精确，训练成本更低

·强化学习

通过最大化“奖励函数”从一系列行为中学习该模型，奖励函数可以通过惩罚“坏行为”和/或奖励“好行为”来最大化。强化学习的一个流行例子是利用环境反馈对自驾汽车进行培训
强化学习（RL）场景的典型框架：一个代理（智能体）在一个环境中采取行动，该环境被解释为奖励和反馈给代理（智能体）的状态的表示

作业
1.你对机器学习定义的理解
答：机器学习目前似乎还没有完全确定的唯一定义。从学科角度上来讲，目前机器学习是数学、统计学和计算机学科的综合交叉学科。从数学角度上来讲，机器学习就是要找到联系输入与输出的函数。从机器学习解决问题的模式上来讲，机器学习是一种数据科学技术，它能使计算机从现有数据集中进行学习，以便对新目标进行预测。
类比人的学习过程的话，我认为机器学习相当于利用机器（人脑）以已有数据（历史经验或信息，如知识点、例子）为输入进行学习，学习目的是得到描述输入输出间关系的最优模型（知识，如规则、规律、方法），并利用模型获得输出，完成任务目标（对新环境做出合理的应激），而其学习体现在针对特定任务和性能度量，随输入的改进，得到的模型在该任务上由性能度量衡量的性能提升。

2.模型与算法的区别与联系
答：模型是描述输入对象与输出对象间可能存在的关系与联系的函数，实际上，可能有无数个模型可以描述输入输出间关系，但它们对关系描述的准确性上有优劣。算法则是学习得到最优模型的具体计算方法，本质上是通过计算机获得模型参数最优解的计算方法。即模型是知识，联系输入、输出，算法则是如何更快更好地获得更能准确描述输入输出间关系的模型的计算方法。

3.你了解哪些函数空间
答：多项式函数空间、傅里叶函数空间、连续函数空间、可积函数空间。