Python R 线性回归高斯回归比较

最新推荐文章于 2024-06-29 18:35:14 发布

斯温jack

最新推荐文章于 2024-06-29 18:35:14 发布

阅读量3.7k

点赞数

分类专栏：机器学习 Sklearn 文章标签： Python R sklearn 线性回归高斯回归

本文链接：https://blog.csdn.net/sinat_30665603/article/details/52267189

版权

这篇博客通过公路一氧化碳数据对比了Python和R进行线性回归的实现。首先使用R的逐步回归选择最佳模型，然后用Python实现相同过程，最后引入高斯过程进行概率插值，结果显示高斯过程在小样本数据上的表现更优。文章讨论了高斯回归在假设放宽方面的优势以及统计学与机器学习在方法论上的差异。

摘要由CSDN通过智能技术生成

使用的数据是公路一氧化碳数据，相应细节可参见下面链接：
数据下载链接：http://www.statsci.org/data/general/cofreewy.html

R设定工作目录指令setwd
下面先使用R 的逐步回归选取AIC最小的普通线性模型实行最小二乘估计：

w = read.table("COfreewy.txt", header = T)
a = lm(CO~.,w)
summary(a)
b = step(a, direction = 'backward')
summary(b)
shapiro.test(b$res)

并后面使用斯皮尔曼正态检验，不能拒绝正态性假设。（0.05601）

下面给出上述过程的python简化版本：

from __future__ import division

import numpy as np 
import scipy as sci
import pandas as pd
from math import log
from sklearn import linear_model 
from sklearn.gaussian_process import GaussianProcess

from sklearn.cross_validation import LeaveOneOut

import itertools