个人机器学习记录-纯作为笔记用
基本术语
假设一批数据(色泽=青绿;根蒂=蜷缩,敲声=清脆)...
数据集:这一批数据的集合
示例:每一条记录是一个示例,或称样本
色泽、根蒂称为属性或者特征,以色泽、根蒂、敲声为坐标轴,则可建立一个样本空间
空间中每一个点都有描述西瓜,由于每个点对应一个坐标向量,因此一个示例成称为一个特征向量,d个属性就是d个维数
分类任务与回归任务:若预测的是离散值,则为分类任务,若预测的是连续值,则为回归任务,机器学习这本书中介绍的大多分类任务是二分类任务,其中一个类是正类,一个类为反类,此时样本空间有y,y={-1,+1},若分类类别为多个时,则称为多分类任务
训练:对给定的数据集进行训练与学习,通常是对处理好的训练集按照特定的算法进行训练学习
测试:在学得模型后,使用模型对于测试集进行预测
无监督学习与监督学习:训练数据时有训练集被标记的是监督学习,训练数据没有标记信息是无监督学习
假设空间:所有数据被预测时会有一个范围,学习过程预就是在所有假设组成的空间中进行搜索
归纳偏好:对于训练后的模型,会有一个对应的偏好,任何算法在预测信息时都有一个偏好,会给出概率最大的那个可能性