前言
- 样本
- 一行一个样本,一列一个特征(属性)
- 损失函数
- 来衡量预测结果和真实结果之间的差距的函数,其值越小,说明预测结果和正式结果越一致。通常它是一个非负实值函数,通过各种方式虽小损失函数的过程就叫做优化
- 标签
- 数据的Y属性
- 评估指标
- 准确率,精准率
距离度量
欧式距离
曼哈顿距离![](https://i-blog.csdnimg.cn/blog_migrate/8277a5f9f96b16096c6df59b23a92974.png)
计算公式:
n维空间:
切比雪夫距离
国际象棋中国王为中心的类推
回归算法
- 回归算法是一种有监督算法
- 回归算法是用来简历“解释”变量(自变量x)和观测值(因变量y)之间的关系;从机器学习的角度来讲,用于构建一个算法模型(函数)来做属性(x)与标签(y)之间的映射关系,在算法的学习过程中,试图寻找一个函数使得参数之间的关系拟合性最好
- 回归算法中的算法(函数)的最终结果是一个连续的数据值,输入值(属性值)是一个d维度的属性/数值向量
线性回归
逻辑回归
- 分类和回归任务的区别
- 逻辑回归是不是回归
- 如果是你,你要怎么做
- 把回归函数掰弯
- 选定阈值
分类和回归任务的区别
输入变量和输出变量均为连续变量的预测问题是回归问题
输出变量为有限个离散变量的预测问题成为分类问题
误差在于线性太直了
解决办法选定阈值
从线性函数到sigmod函数将函数掰弯
KNN算法
通过另计样本来判断该样本预测
分类预测时,一般采用多数表决法
回归预测时,一般采用平均值法