线性回归模型评估与应用：广告投入与销售额预测案例-CSDN博客

本文链接：https://blog.csdn.net/xinjichenlibing/article/details/147167764

线性回归模型评估与应用：广告投入与销售额预测案例

摘要

线性回归模型是机器学习中常用的预测工具，但其有效性需要从预测性能、统计假设和泛化能力三个维度综合评估。本文通过广告投入与销售额预测的案例，详细说明了线性回归模型的建模流程、评估标准以及改进方向，展示了如何将数据转化为可解释的商业决策依据。案例分析表明，一个优秀的线性回归模型不仅需要具备高预测性能，还需满足统计假设并具有良好的泛化能力。

一、线性回归模型评估方法与标准

预测性能指标

均方误差（MSE）：预测值与真实值差的平方的平均值，越小越好。
均方根误差（RMSE）：MSE的平方根，与目标变量单位一致，更易解释。
平均绝对误差（MAE）：预测值与真实值绝对差的平均值，对异常值不敏感。
决定系数（R²）：模型解释数据方差的比例，范围为[0, 1]，越接近1越好。

统计假设检验

残差分析：
- 正态性：残差应近似正态分布（可通过QQ图或Shapiro-Wilk检验验证）。
- 同方差性：残差的方差应恒定（可用Breusch-Pagan检验或残差-拟合值图观察）。
- 独立性：残差间应无自相关（时间序列中常用Durbin-Watson检验）。
特征显著性：通过p值或置信区间判断特征是否对目标变量有显著影响。

泛化能力评估

交叉验证：使用K折交叉验证评估模型在未见数据上的稳定性。
训练集与测试集表现对比：若测试集误差显著高于训练集，可能存在过拟合或欠拟合。

二、好模型的标准

预测性能优秀

测试集上MSE、RMSE、MAE低，R²接近1。
交叉验证结果稳定，误差波动小。

满足统计假设

残差随机分布，无明显模式（如非线性趋势、异方差性）。
特征系数显著（若模型用于推断，需关注p值）。

泛化能力强

在训练集和测试集上表现一致，无过拟合（高方差）或欠拟合（高偏差）。

鲁棒性

对异常值不敏感（或已进行异常值处理）。
无严重的多重共线性问题（可通过方差膨胀因子VIF检测）。

三、不可用模型的标志

预测性能差

测试集R²接近0或负数，或误差指标显著高于基线模型（如均值预测）。

违反统计假设

残差存在明显模式（如异方差、非线性趋势、自相关）。
残差非正态分布（影响置信区间和假设检验的可靠性）。

泛化能力不足

过拟合：训练集误差极低，但测试集误差高。
欠拟合：训练集和测试集误差均高，模型无法捕捉数据规律。

结构性问题

多重共线性严重（如VIF > 10），导致系数不稳定或难以解释。
包含不相关特征（如所有特征p值均不显著）。

数据问题

异常值主导模型拟合（如极端值导致系数扭曲）。
数据不独立（如时间序列未考虑自相关）或样本量过小。

四、改进方向

特征工程：增加多项式项、交互项，或进行非线性变换（如对数转换）。
正则化：使用岭回归（L2）或Lasso（L1）处理多重共线性和过拟合。
数据预处理：处理异常值、标准化特征、填补缺失值。
模型替换：若线性假设不成立，可尝试决策树、支持向量回归等非线性模型。

五、广告投入与销售额预测案例

案例背景

某公司希望通过分析历史数据（电视、广播、报纸广告费用与销售额的关系），预测不同广告组合带来的销售额，并指导未来投放策略。

数据说明

数据集包含200个市场的数据，每条数据包括：

TV：电视广告费用（万元）
Radio：广播广告费用（万元）
Newspaper：报纸广告费用（万元）
Sales：对应市场的销售额（万元）

目标：建立线性回归模型，预测 ( \text{Sales} = \beta_0 + \beta_1 \cdot \text{TV} + \beta_2 \cdot \text{Radio} + \beta_3 \cdot \text{Newspaper} + \epsilon )。

建模步骤与评估

1. 数据探索与预处理

相关性分析：计算特征与销售额的相关系数，发现TV与Sales相关性最高（0.78），Newspaper相关性较低（0.23）。
处理异常值：剔除报纸广告费用异常高的个别市场数据。
标准化：对广告费用进行标准化（Z-score），避免量纲差异影响系数解释。

2. 模型训练

划分数据集：80%训练集，20%测试集。

拟合模型：

from sklearn.linear_model import LinearRegression
model = LinearRegression()
model.fit(X_train, y_train)

3. 模型评估

关键指标：
- 训练集R²：0.89
- 测试集R²：0.86
- 测试集RMSE：1.2万元（预测销售额平均误差±1.2万元）
系数解释：
- TV系数：0.85（每增加1万元电视广告，销售额平均增长0.85万元）
- Radio系数：0.35
- Newspaper系数：0.02（统计不显著，p值>0.05）