机器学习算法的联系和区别

联系

当损失函数是0-1损失时，测试误差就变成了测试数据集上的误差率（错误率）

序关系

若离散属性有序关系，则可通过连续化转化为连续值
若离散属性没有序关系，通常只能转化为k维向量

感知机与线性回归

• 感知机是线性二分类问题，线性回归是回归问题
• 感知机的y取值是{-1,1}，线性回归y取值是R.
• 感知机的损失函数来源于分类错误率，线性回归的损失函数是均方误差（均方误差在几何上就是欧式距离）
• 感知机的优化方法一般是梯度下降法（向负梯度方向不断迭代），线性回归的优化方法是最小二乘法（对w,b求导并令其为0）