经典分类：线性判别分析模型！

↑↑↑关注后"星标"Datawhale

每日干货 & 每月组队学习，不错过

 Datawhale干货 

作者：小雨姑娘，康涅狄格大学，Datawhale成员

这几天看了看SVM的推导，看的是真的头疼，那就先梳理基础的线性判别分析模型，加深对SVM的理解。

线性判别分析是一种线性的分类模型。

线性分类模型是指采用直线（或超平面）将样本直接划开的模型，其形式可以表示成   的形式，划分平面可以表示成  。这里可以看出，线性分类模型对于样本的拟合并不一定是线性的，例如逻辑回归(外面套了一层sigmod函数)和感知机(外面套了一层激活函数)。

线性判别分析的基本思想是把所有样本投影到一条直线上，使样本在这条直线上最容易分类。

设直线的方向向量为 ，则样本 在直线上的投影为 ，如图：

我们的目标是使两类样本的中心点在线上的投影距离大（两类样本区分度高），同时使每一类样本在线上投影的离散程度尽可能小（类内样本区分度低）。

令 ，