机器学习算法
文章平均质量分 84
moledyzhang
这个作者很懒,什么都没留下…
展开
-
线性回归与逻辑回归
线性回归和逻辑回归的应用场景?答:线性回归主要用来解决连续值预测的问题,逻辑回归用来解决分类的问题,输出的属于某个类别的概率,工业界经常会用逻辑回归来做排序线性回归线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。模型hθ=θTxh_\theta=\theta^Tx 损失函数J(θ)=12m∑i=1m(hθ(x原创 2018-03-16 13:52:21 · 479 阅读 · 0 评论 -
决策树、Bagging、随机森林、Boosting、Adaboost、GBDT、XGBoost
决策树(Descision Tree)决策树介绍决策树基于“树”结构进行决策: - 每个“内部节点”对应于某个属性上的测试 - 每个分枝对应于该测试的一种可能结果(即属性的某个取值) - 每个叶节点对应于一个“预测结果”决策树学习的三个步骤特征选择决策树的生成决策树的修剪 特征选择是决定用哪个特征来划分特征空间; 特征选择的准则:信息增益或信息增益比案例:预测小明今天出门打不原创 2018-03-09 15:49:14 · 7506 阅读 · 0 评论 -
机器学习常见问题整理?
机器学习项目流程?答:理解实际问题,抽象成数学模型(分类、回归、聚类)——>获取数据——>特征预处理与特征选择——>训练模型与调优——>模型诊断(过拟合、欠拟合等)——>模型融合——>上线运行。机器学习算法的分类?答:监督学习、非监督学习、半监督学习、强化学习。特征选择与降维的区别?答:两者达到的效果是一样的,都是试图去减少特征数据集...原创 2018-03-12 19:17:26 · 5376 阅读 · 0 评论 -
XGBoost理解
什么是XGbbostXGBoost是Extreme Gradient Boosting的简称,对应的模型就是一堆CART树,思想是将每棵树的预测值加到一起作为最终的预测值(可谓简单粗暴)。下图就是CART树和一堆CART树的示例,用来判断一个人是否会喜欢计算机游戏: 图二说明了如何用一堆CART树做预测,就是简单将各个树的预测分数进行相加。 注:gboost为什么使用CART树而不是用普通的决原创 2018-03-12 22:05:59 · 2286 阅读 · 0 评论 -
隐马尔科夫模型HMM
应用隐马尔科夫模型(HMM,Hidden Markov Model)可用标注问题,在语音识别、NLP、生物信息、模式识别等领域被实践证明是有效的算法。定义隐马尔科夫模型是关于时序的概率模型,描述由一个隐藏的马尔科夫链随机生成不可观测的状态的序列,再由各状态随机生成一个观测而产生观测序列的模型(参考李航的《统计学习方法》第10章)。 隐马尔科夫模型随机生成的状态随机序列,称为状态序列;...原创 2018-03-13 19:21:01 · 373 阅读 · 0 评论