本文为学习笔记,供自己复习回顾,分享,交流,如果专家们发现谬误之处欢迎批评与修正。
----------------------------------------------------------------------------------------------------------------------------
1.什么是线性模型?
在数学中,变量间关系有两种基本类型:函数关系和相关关系,函数关系是确定的可以用函数式表达出来的。
因此,线性模型就是一个响应变量(因变量)与其解释变量(因变量)的线性组合存在线性关系的模型。
1.1 基本形式
给定由 个属性描述的示例,其中 是 在第 个属性上的取值,线性模型试图学得一个通过属性的线性组合来进行预测的函数,即
其中 是属性权重, 是偏移项, 是误差项,一般情况下偏移项与误差项统一处理, 与 学得后,模型就可以确定了。
1.2 如何判别线性模型
我们很多情况认为直线就是线性模型,其实有些曲线也是线性模型,我刚接触这个概念时,一直很不解为什么逻辑模型是线性模型,所以在这里列出两条判断线性模型的标准方法。
1. 自变量前是否只有一个系数影响
e.g. 逻辑回归其分离面是一个线性超平面wx+b, 本质上是一个线性回归模型,其系数是线性函数,只是在其基础上加入了sigmoid映射,没有加入前其形式为
加入后
所以逻辑回归实质是一个线性模型。
2. 自变量前是否只有一个系数影响
e.g.