![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Mechine Learning之线性回归
海棠依旧xx
这个作者很懒,什么都没留下…
展开
-
2.9 线性回归算法学习——kNN模型解决回归问题及网格搜索最优参数
模型引入from sklearn.neighbors import KNeighborsRegressor实例化对象knn_reg=KNeighborsRegressor()训练数据集knn_reg.fit(X_train,y_train)查看评估的成绩knn_reg.score(X_test,y_test)运行结果网格搜索参数:from sklearn.model_selection impor...原创 2018-03-13 02:04:53 · 2662 阅读 · 0 评论 -
2.8 线性回归算法学习——sklearn的回归模型学习
%run ML/KNN/model_selection.py X_train,X_test,y_train,y_test=train_test_split(X,y,seed=666)from sklearn.linear_model import LinearRegressionlin_reg=LinearRegression()lin_reg.fit = (X_train,y_train)l...原创 2018-03-13 01:54:07 · 371 阅读 · 0 评论 -
2.7 线性回归算法学习——多元线性回归的实现
import numpy as npclass LinearRegression: def __init__(self): """初始化模型""" self.coef_=None self.inter_=None self.__theta=None def fit(self,X_train,y_train): ...原创 2018-03-13 01:42:15 · 366 阅读 · 0 评论 -
2.6 线性回归算法学习——多元线性回归的原理及推导学习
当不止一个特征时如何分析多个特征与y的关系?当x为一个数时是一个特征,当x成为一个向量时,即多个特征与y的关系目标函数的探索——确定参数化解y的预测值即点成的结果推导结果称为多元线性回归方程解优点与问题:因为对应每个特征都有其系数所以不需要做归一化处理一般将它们分开,系数对应每一个特征,而截距只是一个偏移...原创 2018-03-12 23:01:36 · 8485 阅读 · 3 评论 -
2.5 线性回归算法学习——简单线性回归算法的衡量指标最优方式
线性回归指标看不出是好是坏,对应不同的东西数值不同,所以想比较不同类型的东西的回归算法预测好坏的时候需要换另一个指标映射到0到1之间:意义:分母为最基本的模型不考虑x,错误最大,分子我们自己模型考虑x后产生的错误,,1-我们的模型产生错误/基本模型产生错误,也就是我们的模型拟合住的点的准确率取值范围:相当于将我们模型与基准模型进行对比是怎样的,范围投射到0到1之间代码实现1- mse/np.var...原创 2018-03-12 22:40:43 · 530 阅读 · 0 评论 -
2.4 线性回归算法学习——简单线性回归算法的衡量指标探索
简单线性回归算法的衡量指标探索分类中使用分类准确度衡量分类的准确度#简单线性回归该如何衡量预测的结果?可以通过测试集中的真实值与预测值进行比较,如上图,比较误差平方#存在的问题:误差与样本的数量有关?改进:除以m,使得结果与m无关#存在问题2:结果为衡量指标值的平方,值较大时平方翻倍了影响较大,与量纲有关?改进:开方后量纲一致,#另一个评测标准:平均绝对误差代码实现RMSE与MAE的比较量纲一样,...原创 2018-03-12 21:47:04 · 318 阅读 · 0 评论 -
2.3 线性回归算法学习——向量化运算优化回归算法
改进方法在求参时for循环性能很低,如果能将for循环改进为向量之间的运算,性能会快很多将a的分子和分母转换成两个向量的点成,两个一维向量的点成即相乘后相加:代码改进,只需改进for循环变为:num=(x_train-x_mean).dot(y_train-y_mean)d=(x_train-x_mean).dot(x_train-x_mean)运行结果相同:性能测试区别只在于fit函数中是否使...原创 2018-03-12 19:36:02 · 519 阅读 · 0 评论 -
2.2 线性回归算法学习——简单线性回归算法的实现及封装
算法实现import numpy as npimport matplotlib.pyplot as plt模拟的数据集x=np.array([1.,2.,3.,4.,5.])y=np.array([1.,3.,2.,3.,5.])图形绘制plt.scatter(x,y)plt.axis([0,6,0,6])plt.show()均值x_mean=np.mean(x)y_mean=np.me...原创 2018-03-12 14:01:17 · 361 阅读 · 0 评论 -
2.1 线性回归算法学习——简单线性回归算法的原理及推导过程
机器学习中的参数模型(线性回归、逻辑回归、SVM、神经网络等)学习过程:通过建模找到一个最大程度拟合数据的模型,通过确定损失函数(或效用函数,统称为目标函数),最优化目标函数来获得机器学习模型的参数。回归分析:利用已知的数据,(线性回归中需要找到一条直线)最大程度的拟合样本与输出标记,即产生拟合方程,从而对未知的数据进行预测。如何判断是否选用线性模型处理问题?使用相关系数r衡量特征与标记之间的相关...原创 2018-03-12 11:54:03 · 6288 阅读 · 0 评论 -
2.10 线性回归算法学习——回归模型的可解释性
如图,通过排序和数据对应分析,可以看出每种特征对房价的影响有多大以及正相关还是负相关所以线性规划具有很强的可解释性原创 2018-03-13 02:27:43 · 1394 阅读 · 0 评论