笔记
引言
logistic回归是机器学习中的一种分类模型,用在监督学习中输出y标签是0或1的时候。属于一种在线学习(动态扩展)算法,可以利用新的数据各个特征的权重进行更新,而不需要重新利用历史数据训练。
logistic回归本质上通过在线性回归模型中引入Sigmoid函数,将线性回归的不确定范围的连续输出值映射到(0,1)范围内,成为一个概率预测问题。
线性回归
概念:对于多维空间中存在的样本点,用特征的线性组合(特征加权)去拟合空间中点的分布和轨迹。
线性回归表达方式
expression 1
向量表达形式:
参数w表示对应的属性在预测结果中的权重,称作权值(weights);参数b是实数,称作偏置向量(bias vector)
W = (w1,w2…wd) 表示列向量
WT表示W的转置
expression 2
向量表达形式:
参数w表示该某一特征对应的权重
WT表示W的转置
x0表示额外的特征向量,值为1
X是 ( n