可以解决分类,回归问题。。。。。。。。。。。。。。。。。。。。。。。。。
逻辑回归解决分类问题思路
定义一个概率函数
进行建模,建立损失函数
最小化损失函数
决策边界的泛化效果不好。。。。决策边界离红色点太近了
这个决策边界比较好,期望决策边界离红色和蓝色的点都比较远,而且能够分辨这两种点。、
这样未来泛化能力比较好。(没有寄希望于正则化,数据预处理)而是直接对泛化能力的考量直接放在算法的内部。。决策边界离数据都比较远。(直观理解)
Hard margin Svm
Soft Margin Svm
最大化margin.