![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习的模型评估与选择
海棠依旧xx
这个作者很懒,什么都没留下…
展开
-
1.3 KNN算法学习——模型评估与选择
训练得到的模型如果很差在放到真实世界中会造成损失并且真实环境难以拿到真实的label,所以需要测试模型的泛化能力从而进行并进而做出改进。评估方法一 :留出法#训练集与测试集分离分割...原创 2018-03-09 01:21:14 · 1885 阅读 · 0 评论 -
1.5 KNN算法学习——KNN算法分类模型的实现与分类准确度评估
训练集分割成训练集与测试集,代码封装import numpy as npdef train_test_split(X,y,test_ratio=0.2,seed=None): """将数据X与y按照test_ratio分割成X_train,X_test,y_train,y_test""" assert X.shape[0] == y.shape[0], "the size of...原创 2018-03-11 12:24:37 · 10327 阅读 · 0 评论 -
2.3 线性回归算法学习——向量化运算优化回归算法
改进方法在求参时for循环性能很低,如果能将for循环改进为向量之间的运算,性能会快很多将a的分子和分母转换成两个向量的点成,两个一维向量的点成即相乘后相加:代码改进,只需改进for循环变为:num=(x_train-x_mean).dot(y_train-y_mean)d=(x_train-x_mean).dot(x_train-x_mean)运行结果相同:性能测试区别只在于fit函数中是否使...原创 2018-03-12 19:36:02 · 523 阅读 · 0 评论 -
2.4 线性回归算法学习——简单线性回归算法的衡量指标探索
简单线性回归算法的衡量指标探索分类中使用分类准确度衡量分类的准确度#简单线性回归该如何衡量预测的结果?可以通过测试集中的真实值与预测值进行比较,如上图,比较误差平方#存在的问题:误差与样本的数量有关?改进:除以m,使得结果与m无关#存在问题2:结果为衡量指标值的平方,值较大时平方翻倍了影响较大,与量纲有关?改进:开方后量纲一致,#另一个评测标准:平均绝对误差代码实现RMSE与MAE的比较量纲一样,...原创 2018-03-12 21:47:04 · 324 阅读 · 0 评论 -
2.5 线性回归算法学习——简单线性回归算法的衡量指标最优方式
线性回归指标看不出是好是坏,对应不同的东西数值不同,所以想比较不同类型的东西的回归算法预测好坏的时候需要换另一个指标映射到0到1之间:意义:分母为最基本的模型不考虑x,错误最大,分子我们自己模型考虑x后产生的错误,,1-我们的模型产生错误/基本模型产生错误,也就是我们的模型拟合住的点的准确率取值范围:相当于将我们模型与基准模型进行对比是怎样的,范围投射到0到1之间代码实现1- mse/np.var...原创 2018-03-12 22:40:43 · 555 阅读 · 0 评论 -
2.6 线性回归算法学习——多元线性回归的原理及推导学习
当不止一个特征时如何分析多个特征与y的关系?当x为一个数时是一个特征,当x成为一个向量时,即多个特征与y的关系目标函数的探索——确定参数化解y的预测值即点成的结果推导结果称为多元线性回归方程解优点与问题:因为对应每个特征都有其系数所以不需要做归一化处理一般将它们分开,系数对应每一个特征,而截距只是一个偏移...原创 2018-03-12 23:01:36 · 8559 阅读 · 3 评论 -
2.10 线性回归算法学习——回归模型的可解释性
如图,通过排序和数据对应分析,可以看出每种特征对房价的影响有多大以及正相关还是负相关所以线性规划具有很强的可解释性原创 2018-03-13 02:27:43 · 1412 阅读 · 0 评论 -
3.1 梯度下降法学习——梯度下降法的原理及分析
梯度下降法:不是一种机器学习的算法,而是一种基于搜索的最优化方法,通过当前点的梯度方向找到新的迭代点,并从当前点移动到新的迭代点继续寻找新的迭代点直到找到最优解,作用是在最小化目标函数。如果是最大化效用函数则使用的是梯度上升法。训练模型的本质其实就是在最小化一个损失函数,而有的模型求不到最优的数学解就需要使用梯度下降法来基于搜索找到最优解。(一维平面中)纵坐标为损失函数,横坐标为参数变化。最小化损...原创 2018-03-13 15:30:45 · 1484 阅读 · 0 评论