回归分析:做完线性回归分析后还要检验回归方程的显著性。(即判断自变量和因变量之间是否真的存在因果关系,相当于检验参数贝塔是否为零向量。
还要检验,自变量的每个分量是否和因变量间存在因果关系,相当于检验贝塔k是否等于0。)
n个样本,p个自变量的线性回归。
回归方程的优化(剔除不显著的自变量)。
自变量的筛选原则:(1)高显著性,(2)充分拟合(剩余方差小,可决系数高),(3)模型从简(变量个数少)
剩余方差=SSE/(n-p-1)(反应当前模型中不能解释的信息的多少)
可决系数=SSR/SST(反应当前模型中能解释的信息的多少)
逐步回归;
逐步分析的方法是一种寻找最优组合的常用策略。(常用的还有逐步聚类等)
多项式回归问题:
对 y=b0+b1*x+b2*x^2+b3*x^3+......bn*x^n;
做变换 X1=x,X2=x^2,X3=x^3,......Xn=X^n;
则,可将多项式回归问题转换成线性回归为题。