经典算法
支持向量机
问题一:
在空间上线性可分的两类点,分别向SVM 分类的超平面上做投影,这些点在超平面上的投影仍然是线性可分?
不是
问题二:
是否存在一组参数使SVM训练误差为0?
是
问题三:
训练误差为0的SVM分类器一定存在吗?(本题旨在找到一组参数满足训练误差为0,且是SVM 模型的一个解)
是
问题四:
加入松弛变量的SVM的训练误差可以为0 吗?
NO,使用SMO 算法训练的线性分类器并不一定能得到训练误差为0 的模型,这是由于优化目标改变了,并不在是使训练误差最小(而是使目标函数最优)
逻辑回归
问题一
逻辑回归与线性回归异同?
1 逻辑回归处理分类问题,线性回归处理的是回归问题;
2 逻辑回归的因变量为离散的,线性回归的因变量是连续的
3 在自变量x与超参数确定,逻辑回归可以看作广义线性模型;
相同:
1 都使用极大似然估计对训练样本进行建模:线性回归:最小二乘法(实际上是在自变量x与超参数确定,因变量y服从正态分布的假设下,使用极大似然的一个简化,逻辑回归使用对数似然)
2 在求解超参数的过程中,都使用了梯度下降
问题二:
当使用逻辑回归处理多标签的分类问题时,有哪些常见做法,分别应用于哪些场景,它们之间又有怎样的关系&#