- 博客(7)
- 收藏
- 关注
原创 多变量线性回归实现
内容概要如何使用K折交叉验证来搜索最优调节参数如何让搜索参数的流程更加高效如何一次性的搜索多个调节参数K折交叉验证交叉验证的过程选择K的值(一般是10),将数据集分成K等份使用其中的K-1份数据作为训练数据,另外一份数据作为测试数据,进行模型的训练使用一种度量测度来衡量模型的预测性能交叉验证的优点交叉验证通过降低模型在一次数据分割中性能表现上的方差来保证模型性能的稳定性...
2019-03-05 15:37:54 322
原创 sklearn 线性回归
from sklearn.datasets import load_bostonfrom sklearn.linear_model import LinearRegression, SGDRegressorfrom sklearn.model_selection import train_test_splitfrom sklearn.preprocessing import Standard...
2019-03-03 14:26:12 178
原创 python实现线性回归
1 线性回归def Linear_regression(): # get train data data =np.loadtxt('data.csv',delimiter=',') #define hyperparamters #learning_rate is used for update gradient #defint the number ...
2019-03-02 23:29:21 180
原创 线性回归算法梳理
线性回归算法梳理目录1. 基础知识1.1 有监督学习1.2 无监督学习1.3 过拟合与欠拟合2. 线性回归的原理3. 线性回归损失函数、代价函数、目标函数的概念4. 一元线性回归的参数求解公式推导5. 多元线性回归的参数求解公式推导6. 线性回归的评估指标7. 参考资料文中肯定有许多描述不恰当、理解不到位的地方,希望大神们拍正。另外文中一些段落是...
2019-03-01 16:59:33 151
原创 XGB算法框架梳理
XGB算法框架梳理目录1. XGB算法原理2. 损失函数3. 正则化4. 缺失值处理5. 应用场景6. sklearn参数7. 参考资料1. XGB算法原理目标建立K个回归树,使得树群的预测值尽量接近真实值(准确率)而且有尽量大的泛化能力(更为本质的东西),从数学角度看这是一个泛函最优化,多目标,定义目标函数:直观上看,目标要求预测误差尽量小,叶子节点尽量少,节...
2019-02-01 17:10:03 877
原创 GBDT算法框架
GBDT算法梳理目录1. 基础知识1.1 决策树1.2 前向分步算法1.3 负梯度2. GBDT简介3. GBDT算法推导4. GBDT算法应用场景5. GBDT算法sklearn实现6. GBDT算法参数调优7. 参考资料文中肯定有许多描述不恰当、理解不到位的地方,希望大神们拍正。另外文中一些段落是在引用了一些其它博文的话的基础上的理解,如有侵...
2019-01-28 19:08:46 840
原创 随机森林算法框架
随机森林框架梳理目录1. 基础知识1.1 何为集成学习1.2 集成学习一般流程1.3 模型融合方法1.4 如何选择基分类器2. 随机森林简介3. 随机森林算法推导4. 随机森林算法分析4. 随机森林算法应用场景5. 随机森林算法sklearn实现6. 随机森林算法参数调优7. 参考资料1. 基础知识1.1 何为集成学习面对一个机...
2019-01-27 15:51:20 2168 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人