回归与分类模型
文章平均质量分 94
回归:线性回归、逻辑回归、神经网络和决策树(随机森林、BOOST)
分类:热编码,多级分类,多类别分类,逻辑回归,神经网络和决策树(随机森林、BOOST)
0xMayL
这个作者很懒,什么都没留下…
展开
-
机器学习·L2W4-决策树
提升方法训练多棵树,但它们彼此之间不再互不相关,而是一棵树接一棵树地拟合,以最小化误差。XGBoost 的一个有趣之处在于,在拟合过程中,它可以采用形式为 (X_val,y_val) 的评估数据集。学习率是梯度下降法的步骤大小,XGBoost 在内部使用该方法来最小化每个训练步骤中的误差。随机森林的另一个超参数称为 n_estimators,它是组成随机森林的决策树的数量。请记住,对于随机森林,我们随机选择特征子集并随机选择训练示例子集来训练每棵树。由于每棵树的拟合彼此独立,因此可以并行拟合多棵树。原创 2024-08-08 21:12:55 · 673 阅读 · 0 评论 -
机器学习·回归
J(w,b)=12m∑i=1m(f(i)(w1,w2,…,wj,b)−y(i))2J(w,b)=\frac{1}{2m}\sum_{i=1}^{m}\left({f^{(i)}(w_1,w_2,\ldots,w_j,b)-y^{(i)}} \right)^2J(w,b)=2m1i=1∑m(f(i)(w1,w2,…,wj,b)−y(i))2wi=wi−α1m∑i=1m(f(i)(w1,w2,…,wj,b)−y(i))wiw_i=w_i-\alpha\frac{1}{m}\sum_{i=1}^{m}原创 2024-07-27 21:21:13 · 327 阅读 · 0 评论