机器学习概论

基本假设：训练和测试数据有相同分布

流程

 目的：分类与回归classification/regression

分类模型：离散（定性）

etc：

Logistic Regression（ 通过sigmoid 函数映射到(0,1)上，阈值划分二分类）

SVM（超平面分割）

Naive Bayes（后验P(y|x) 给定x得到各个类y的概率）

回归模型：连续（定量）

etc：

 Linear Regression（y=wx+b）

类别

监督学习：有标签 p(x) 用于预测

etc：

KNN（k近邻，若样本在特征空间中的k个最邻近（相似）的样本中的大多数属于某一个类别，则该样本也属于这个类别）

Decision Tree（节点分裂选择---信息增益-熵）

Naive Bayes（假设数据集属性间相互独立）

无监督学习：无标签 p(y|x)、p(x,y) 用于找关联

etc：

k-mean（聚类）

PCA（降维 正交化 保留最主要的一些特征向量）

GMM（混合高斯模型）

EM（Expectation-Maximization Algorithm EM迭代 最大似然估计）

AE（自动编码器 利用反向传播算法使得输出值等于输入值的神经网络）

 GAN（生成对抗网络）

G-generator-生成器: 负责凭空捏造数据出来

D-discriminator-判别器: 负责判断数据是不是真数据

训练G、D使得生成数据以假乱真

半监督学习：结合监督学习和无监督学习

迁移学习：

数据域不同：数据空间不同、数据分布不同

任务不同：预测标签不同、映射不同

 

 

 强化学习:

 

 （强化学习内容很多后续会有专题说明）

 

部分图片来源于伯禹学习平台https://www.boyuai.com/