![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 50
糖公子没来过
学生一枚
展开
-
手写实现线性回归
一元一次拟合f(x)=wx+b使用已有的线性回归拟合函数import numpy as npimport matplotlib.pyplot as pltfrom sklearn.linear_model import LinearRegressionX = np.linspace(2, 10, 20).reshape(-1,1)# f(x) = wx + by = np.random.randint(1, 6, size=1)*X + np.random.randint(-5, 5原创 2021-08-06 16:01:20 · 887 阅读 · 0 评论 -
线性回归介绍
线性回归线性回归通过一个或者多个自变量与因变量之间进行建模的回归分析。其中特点为一个或多个称为回归系数的模型参数的线性组合。通用公式w, x为矩阵,损失函数(误差大小)yi为真实值大小,hw(xi)为拟合后的预测值,目的就是找到使得损失函数H(θ)最小的w值最小二乘法的正规方程求解求解出来是这样的下面在实操中会讲解怎么解出来的正规方程通过数学方法直接求得误差最小时各w的大小线性回归之正规方程APIsklearn.linear_model.Lin.原创 2021-08-03 09:25:45 · 1269 阅读 · 0 评论 -
adaboost
import numpy as npfrom sklearn.ensemble import AdaBoostClassifierfrom sklearn import treeimport matplotlib.pyplot as pltX = np.arange(10).reshape(-1,1)y = np.array([1,1,1,-1,-1,-1,1,1,1,-1])display(X,y)ada = AdaBoostClassifier(n_estimators=3,.原创 2021-08-02 09:23:25 · 131 阅读 · 0 评论 -
梯度提升树的二分类原理
import numpy as npimport matplotlib.pyplot as pltfrom sklearn.ensemble import GradientBoostingClassifierfrom sklearn import treexi = np.arange(1,11)yi = np.array([0,0,0,1,1]*2)display(xi,yi)# array([ 1, 2, 3, 4, 5, 6, 7, 8, 9, 10])# ar.原创 2021-08-01 09:24:57 · 191 阅读 · 0 评论 -
极限森林、梯度提升树
极限森林与随机森林一样,极限森林也是基于多棵决策树的集成算法,与随机森林的区别在于:随机森林在选取样本时采用样本随机的方式,并使用最好的裂分条件(无论是'gini'还是'entropy',都选用最佳的分裂进行分类);极限森林也是采用随机样本,但其分裂条件也是随机的,并不一定每次都选用最佳的裂分条件,官网上的解释是这样的像在随机森林中一样,使用候选特征的随机子集,但不是寻找最有区别的阈值,而是为每个候选特征随机绘制阈值,并选择这些随机生成的阈值中的最佳阈值作为划分规则也就是说,较小的阈值也是有原创 2021-07-31 16:14:31 · 634 阅读 · 0 评论 -
机器学习之sklearn回顾整理
特征工程特征工程的基础知识见这篇模型评估估计器(estimator)中的评估方法在sklearn中,估计器(estimator)是一个重要的角色,是一类实现了算法的API其实就可以理解为平时用的各种分类、回归的算法(吧)调用fit estimator.fit(X_train, y_train) 输入测试集的数据 y_ = estimator.predict(X_test) 或者预测的准确率:estimator.score(X_test, y_test) 分类原创 2021-08-13 21:01:53 · 106 阅读 · 0 评论 -
逻辑斯蒂回归及其原理
逻辑斯蒂回归的使用逻辑斯蒂回归虽然叫回归,但是其适用于分类而不是回归import numpy as npfrom sklearn.linear_model import LogisticRegression, LogisticRegressionCVfrom sklearn import datasetsfrom sklearn.model_selection import train_test_splitX, y = datasets.load_iris(True)X_train原创 2021-08-09 19:42:32 · 332 阅读 · 0 评论 -
其他回归模型
线性回归import numpy as npimport matplotlib.pyplot as pltfrom sklearn.model_selection import train_test_splitfrom sklearn.metrics import mean_squred_error, r2_scorefrom sklearn import datasetsfrom sklearn.linear_model import LinearRegression, Ridge, L.原创 2021-08-07 15:18:40 · 105 阅读 · 0 评论