Meachine Learning
文章平均质量分 79
搬运工1627486
这个作者很懒,什么都没留下…
展开
-
机器学习模型-感知机(perceptron)
Machine Learning - Perceptron一.基本原理 二.代码实现import numpy as npimport pandas as pdfrom sklearn import datasetsfrom sklearn.linear_model import Perceptronimport warningswarnings.filterwar...原创 2018-12-23 15:02:11 · 865 阅读 · 0 评论 -
机器学习模型-lightGBM
提升框架lightGBM(一)参数说明(二)API接口调用 (三)使用指定数据格式建模预测(四)输出结果原创 2019-01-07 22:00:49 · 594 阅读 · 0 评论 -
机器学习模型-随机森林(RandomForest)
随机森林(RandomForest):基于bagging集成的树模型 (一)基本原理RF使用自助采样法(行采样)得到不同的训练子集,然后在子集上学习基学习器(CART树)。在建立CART树时,不是在所有特征中选择最优切分点,而是随机选择特征子集(列采样)然后在该子集中选择最优特征来分裂CART树。得到一系列基学习器后,综合它们的预测结果,作为集成模型的最终输出。行采样、列采样的目的...原创 2019-01-07 16:42:25 · 4321 阅读 · 0 评论 -
机器学习模型-树模型
树模型(Tree Model)决策树DT+基于Adaboost的DT+随机森林RF+极端随机树ET+梯度提升决策树GBDT+lightGBM 导入模块(一)分类问题 (二) 回归问题原创 2019-01-11 19:40:35 · 698 阅读 · 0 评论 -
机器学习模型-决策树(ID3)
决策树Decision Tree(Based on ID3)ID3算法:以信息增益作为选择特征的准则(只适用于离散属性)(一)数据集使用了2个数据集来测试DT: (二)代码实现(三)测试结果 ...原创 2019-01-02 15:54:44 · 236 阅读 · 0 评论 -
机器学习模型-CART(回归树)
决策树Decision Tree(Based on CART)(一)函数模块 (二)函数调用(三)输出结果注: 为防止树模型过拟合,采用了三种方式来处理:(1)控制叶子结点上样本的最少数量 (2)预剪枝 (3)后剪枝 ...原创 2019-01-06 14:44:22 · 1909 阅读 · 0 评论 -
机器学习模型-CART(分类树)
决策树Decision Tree(CART)(一)分类树(离散型)(1)函数模块(2)函数调用 (3)输出结果 (二)分类树(连续型) Train acc = 1.0 Test acc = 0.8888888888888888 ...原创 2019-01-05 22:08:20 · 1942 阅读 · 0 评论 -
机器学习模型-GBDT
梯度提升随机树GBDT1.基本概念GBDT是一种基于集成思想的决策树模型,本质是基于残差学习。特点在于:可处理各种类型的数据;有着较高的准确率;对异常值的鲁棒性强;不能并行训练数据2.GBDT训练过程GBDT采用加法模型,通过不断减小训练过程产生的残差,以此对数据进行回归或分类。GBDT进行多轮迭代,每轮迭代产生一个弱分类器CART回归树,该分类器是在上一轮分类器的残差结果基础...原创 2019-01-01 16:52:35 · 6927 阅读 · 0 评论 -
机器学习模型-决策树(C4.5)
决策树Decision Tree(Based on C4.5)C4.5算法:以信息增益比作为选择特征的准则(适用于连续属性)代码实现原创 2019-01-05 16:00:47 · 371 阅读 · 0 评论 -
机器学习模型-支持向量机(SVM)
Machine Learning - SVC一.基本原理二.代码实现 import numpy as npfrom sklearn import datasetsfrom sklearn.model_selection import train_test_splitfrom sklearn.linear_model import LogisticRegressionim...原创 2018-12-23 16:17:30 · 476 阅读 · 0 评论 -
机器学习模型-XGBoost
提升框架XGBoost(eXtreme Gradient Boosting)XGBoost是对传统GBDT模型的改进版本,包括:损失函数 + 正则化 + 切分点查找优化 + 并行化设计xgboost模块下载:终端环境下输入pip install xgboost(一)加载模块 (二)原生版本 (三)sklearn API (1)分类问题 ...原创 2019-01-08 13:49:12 · 385 阅读 · 0 评论