![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 77
Britesun
这个作者很懒,什么都没留下…
展开
-
决策树算法及Python实现
1 什么是决策树决策树(Decision Tree)是一种基本的分类与回归方法,本文主要讨论分类决策树。决策树模型呈树形结构,在分类问题中,表示基于特征对数据进行分类的过程。它可以认为是if-then规则的集合。每个内部节点表示在属性上的一个测试,每个分支代表一个测试输出,每个叶节点代表一种类别...转载 2018-08-09 16:39:25 · 138896 阅读 · 24 评论 -
[Kmeans 评价指标]标准化互信息NMI计算步骤及其Python实现
转载链接 标准化互信息NMI计算步骤及其Python实现 Excellence is a continuous process and not an accident.卓越是一个持续的过程而不是一个偶然事件.标准化互信息NMI计算步骤及其Python实现 本文介绍其计算步骤和代码实现 假设对于17个样本点(v1,v2,...,v17)(v...转载 2019-01-17 13:24:17 · 5395 阅读 · 0 评论 -
GBDT原理及利用GBDT构造新的特征-Python实现
GBDT原理及利用GBDT构造新的特征-Python实现 背景1 Gradient Boosting2 Gradient Boosting Decision Tree3 GBDT应用-回归和分类GBDT构建新的特征思想GBDT与LR融合方案源码内容generate GBDT featuresgenerate fea...原创 2018-11-15 20:34:45 · 524 阅读 · 0 评论 -
LR的公式推导和过拟合问题解决方案
原文链接 Stanford机器学习课程笔记——LR的公式推导和过拟合问题解决方案 1. Logistic Regression 前面说的单变量线性回归模型和多变量线性回归模型,它们都是线性的回归模型。实际上,很多应用情况下,数据的模型不是一个简单的线性表示就可以搞定的...转载 2018-10-09 15:53:06 · 1477 阅读 · 0 评论 -
梯度消失问题与如何选择激活函数
梯度消失问题与如何选择激活函数什么是梯度消失?梯度消失有什么影响?是什么原因?解决方案有哪些?如何选择激活函数?1. 什么是梯度消失?梯度消失,常常发生在用基于梯度的方法训练神经网络的过程中。当我们在做反向传播,计算损失函数对权重的梯度时,随着越向后传播,梯度变得越来越小,这就意味着在网络的前面一些层的神经元,会比后面的训练的要慢很多,甚至不会...转载 2018-09-23 16:32:44 · 364 阅读 · 0 评论 -
计算机视觉四大基本任务(分类、定位、检测、分割)
计算机视觉四大基本任务(分类、定位、检测、分割)深度学习目前已成为发展最快、最令人兴奋的机器学习领域之一,许多卓有建树的论文已经发表,而且已有很多高质量的开源深度学习框架可供使用。然而,论文通常非常简明扼要并假设读者已对深度学习有相当的理解,这使得初学者经常卡在一些概念的理解上,读论文似懂非懂,十分吃力。另一方面,即使有了简单易用的深度学习框架,如果对深度学习常见概念和基本思路不了解,面对现实任务...转载 2018-09-10 18:00:20 · 17324 阅读 · 0 评论 -
从线性分类器到卷积神经网络
从线性分类器到卷积神经网络前言本文大致分成两大部分,第一部分尝试将本文涉及的分类器统一到神经元类模型中,第二部分阐述卷积神经网络(CNN)的发展简述和目前的相关工作。本文涉及的分类器(分类方法)有:线性回归逻辑回归(即神经元模型)神经网络(NN)支持向量机(SVM)卷积神经网络(CN...转载 2018-09-03 14:54:43 · 3259 阅读 · 0 评论 -
图像处理之特征提取
图像处理之特征提取 知乎上看到一个话题——目前火热的 Deep Learning 会灭绝传统的 SIFT / SURF 特征提取方法吗?由于之前研究过SIFT和HOG这两种传统的特征提取方法,故本篇文章先对SIFT和HOG作一综述,并比较二者优缺点。之后,将SIFT和HOG同神经网络特征...转载 2018-09-04 16:10:04 · 20247 阅读 · 0 评论 -
神经网络训练中的Tricks之高效BP(反向传播算法)
神经网络训练中的Tricks之高效BP(反向传播算法) ...转载 2018-08-29 16:39:02 · 636 阅读 · 0 评论 -
混淆矩阵
混淆矩阵的作用:1)用于观察模型在各个类别上的表现,可以计算模型对应各个类别的准确率,召回率;2)通过混淆矩阵可以观察到类别直接哪些不容易区分,比如A类别中有多少被分到了B类别,这样可以有针对性的设计特征等,使得类别更有区分性; 简单来说就是看看有多少错判的.以上面图片为例: 上面是一个4分类的问题,类别分别为正常,色情,广告,违禁。以正常类别为例进行解释: 总的样本数目:列...原创 2018-08-24 19:18:50 · 5578 阅读 · 0 评论 -
梯度下降算法分类总结
梯度下降算法分类总结 引言 梯度下降法 (Gradient Descent Algorithm,GD) 是为目标函数J(θ),如代价函数(cost function), 求解全局最小值(Global Minimum)的一种迭代算法。为什么...转载 2018-08-27 15:41:23 · 7196 阅读 · 1 评论 -
BP神经网络模型及梯度下降法
BP神经网络模型及梯度下降法BP(Back Propagation)网络是1985年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事...转载 2018-08-27 15:38:02 · 6834 阅读 · 1 评论 -
RF、GBDT、XGBoost面试级整理
RF、GBDT、XGBoost面试级整理 由于本文是基于面试整理,因此不会过多的关注公式和推导,如果希望详细了解算法内容,敬请期待后文。 RF、GBDT和XGBoost都属于集成学习(Ensemble Learning),集成学习...转载 2018-07-31 17:56:38 · 186 阅读 · 0 评论 -
[分类问题的评估指标] Macro-F1和Micro-F1
分类问题的评估指标 在利用K_means 聚类、LR、SVM 分类,评估Embedding 结果的好坏时,遇到如下代码,不理解当中 micro_f1,macro_f1 的含义,开此篇学习记录。 def classification(x, y, method='XGBoost'): x_train, x_valid...原创 2019-01-16 20:40:40 · 10901 阅读 · 1 评论