[机器学习 周志华][笔记] 1.1 线性模型 基本形式

作者：解琛
时间：2020 年 8 月 24 日

机器学习 周志华

给定由 $d$ 个属性描述的示例 $\mathbf{x}=(x_1;x_2;...;x_d)$，其中 $x_i$ 是 $\mathbf{x}$ 在第 $i$ 个属性上的取值。

线性模型（linear model）试图学得一个通过属性的线性组合来进行预测的函数。

$$f(\mathbf{x})=w_1{x}_1+w_2{x}_2+...+w_d{x}_d+b\text{\hspace{1em}(1.1)}$$

一般用向量形式写成：

$$f(\mathbf{x})={\mathbf{w}}^{\mathrm{T}}\mathbf{x}+b\text{\hspace{1em}(1.2)}$$

其中，$\mathbf{w}=(w_1;w_2;...;w_d)$。当 $\mathbf{w}$ 学得之后，模型就得以确定。

线性模型具有以下特点。

1. 线性模型形式简单、易于建模；
2. 功能强大的非线性模型（nonlinear model）可在线性模型的基础上，通过引入层级结构或者高纬映得到；
3. 线性模型具有很好的可解释性（comprehensibility），也称可理解性（understandability）。