![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
天台的猫爷爷
这个作者很懒,什么都没留下…
展开
-
机器学习-周志华-课后习题答案-线性模型
3.1试分析在什么情况下,在以下式子中不比考虑偏置项b。答:在线性回归中,所有参数的确定都是为了让残差项的均值为0且残差项的平方和最小。在所有其他参数项确定后,偏置项b(或者说是常数项)的变化体现出来的就是拟合曲线的上下整体浮动,可以看做是其他各个解释变量留下的bias的线性修正。因此在线性拟合过程中是需要考虑偏置项的。但若需要做的是比较不同自变量对因变量的影响,那么不需要考虑常数项,这样得到的回转载 2018-01-17 19:43:34 · 14068 阅读 · 1 评论 -
主流机器学习模型模板代码+经验分享[xgb, lgb, Keras, LR]
刷比赛利器,感谢分享的人。摘要最近打各种比赛,在这里分享一些General Model,稍微改改就能用的环境: python 3.5.2XGBoost调参大全: http://blog.csdn.net/han_xiaoyang/article/details/52665396 XGBoost 官方API: http://xgboost.readthedocs.io/en/latest//pyth...转载 2018-04-28 15:04:12 · 380 阅读 · 0 评论 -
微软开源分布式高性能GB框架LightGBM Ubuntu、CentOS下编译安装过程
LightGBM(Light Gradient Boosting Machine)是一个基于决策树算法的快速的、分布式的、高性能 gradient boosting(GBDT、GBRT、GBM 或 MART)框架,可被用于排行、分类以及其他许多机器学习任务中。 开源项目地址: https://github.com/Microsoft/LightGBM 开源 LightGBM:三天内收获GitHub...转载 2018-04-27 21:05:52 · 308 阅读 · 0 评论 -
聚类方法:DBSCAN算法研究(1)--DBSCAN原理、流程、参数设置、优缺点以及算法
DBSCAN聚类算法三部分:1、 DBSCAN原理、流程、参数设置、优缺点以及算法;http://blog.csdn.net/zhouxianen1987/article/details/689458442、 matlab代码实现; blog:http://blog.csdn.net/zhouxianen1987/article/details/68946169code...转载 2018-05-05 14:38:58 · 2941 阅读 · 0 评论 -
【用Python学习Caffe】0. 前言及介绍
转载自https://blog.csdn.net/tostq/article/details/736114370.前言及介绍老实说现在的Caffe已经不够流行了(说到这里,我有点无力了,近年来深度学习发展实在是太快了,完全跟不上学习脚步了,刚刚Caffe有点了解后,马上就要跟不上时代了=_=||)。如果对于现在的我来说,我更愿意推荐去学习Tensorflow或者是Pytorch,甚至是Caffe2...转载 2018-05-03 20:16:41 · 505 阅读 · 0 评论 -
机器学习中的范数规则化之(二)核范数与规则项参数选择
上一篇博文,我们聊到了L0,L1和L2范数,这篇我们絮叨絮叨下核范数和规则项参数选择。知识有限,以下都是我一些浅显的看法,如果理解存在错误,希望大家不吝指正。谢谢。 三、核范数 核范数||W||*是指矩阵奇异值的和,英文称呼叫Nuclear Norm。这个相对于上面火热的L1和L2来说,可能大家就会陌生点。那它是干嘛用的呢?霸气登场:约束Low-Rank(低秩)。OK,OK,那我们得知...转载 2018-04-25 22:34:36 · 335 阅读 · 0 评论 -
机器学习中的范数规则化之(一)L0、L1与L2范数
原文链接地址:http://blog.csdn.net/zouxy09/article/details/249728691.监督学习的基本模型监督机器学习问题无非就是“minimizeyour error while regularizing your parameters”,也就是在规则化参数的同时最小化误差。最小化误差是为了让我们的模型拟合我们的训练数据,而规则化参数是防止我们的模型过分拟合我...转载 2018-04-25 22:32:45 · 312 阅读 · 0 评论 -
基于sklearn 的one hot encoding
1.one hot编码的由来在实际的应用场景中,有非常多的特征不是连续的数值变量,而是某一些离散的类别。比如在广告系统中,用户的性别,用户的地址,用户的兴趣爱好等等一系列特征,都是一些分类值。这些特征一般都无法直接应用在需要进行数值型计算的算法里,比如CTR预估中最常用的LR。那针对这种情况最简单的处理方式是将不同的类别映射为一个整数,比如男性是0号特征,女性为1号特征。这种方式最大的优点就是简单...转载 2018-04-25 21:16:34 · 302 阅读 · 0 评论 -
用户特征工程 超详细解读
在网上找到了美团一位叫付晴川同学些的ppt,里面有一幅描述用户特征工程的图,感觉总结得还是比较到位的。现在把图片贴出来: 这张图将用户特征工程里的大面基本都囊括了。因为ppt本身做得比较简单,现在我们试图针对图里的每一项,结合具体的业务场景,做个比较详细的分析。1.原始数据提取原作者画图的时候将第一项命名为特征提取,我觉得作者想表达的本意应该是从哪获得相关数据,所以叫原始数据提取可能更为合适一些。...转载 2018-04-25 21:13:52 · 956 阅读 · 0 评论 -
Keras:基于Theano和TensorFlow的深度学习库
catalogue1. 引言2. 一些基本概念3. Sequential模型4. 泛型模型5. 常用层6. 卷积层7. 池化层8. 递归层Recurrent9. 嵌入层 Embedding 1. 引言Keras是一个高层神经网络库,Keras由纯Python编写而成并基Tensorflow或Theano简易和快速的原型设计(keras具有高度模块化,极简,和可扩充特性)支持CNN...转载 2018-05-03 14:13:06 · 851 阅读 · 0 评论 -
sklearn.model_selection在新版本中改变问题
在sklearn.model_selection最新0.20版本中,更改了交叉验证KFold的函数以及参数。class sklearn.model_selection.StratifiedKFold(n_splits=3, shuffle=False, random_state=None)为了方便大家查找,下文附上链接。点击打开链接...原创 2018-04-30 12:42:16 · 1328 阅读 · 0 评论 -
Adaboost算法原理分析和实例+代码(简明易懂)
Adaboost算法原理分析和实例+代码(简明易懂) 【尊重原创,转载请注明出处】 http://blog.csdn.net/guyuealian/article/details/70995333 本人最初了解AdaBoost算法着实是花了几天时间,才明白他的基本原理。也许是自己能力有限吧,很多资料也是看得懵懵懂懂。网上找了一下关于Adaboost算法原理分析,大都是你复制我,我摘抄你,...转载 2018-04-22 11:26:54 · 6383 阅读 · 3 评论 -
sklearn.svm.SVC 参数说明
经常用到sklearn中的SVC函数,这里把文档中的参数翻译了一些,以备不时之需。本身这个函数也是基于libsvm实现的,所以在参数设置上有很多相似的地方。(PS: libsvm中的二次规划问题的解决算法是SMO)。sklearn.svm.SVC(C=1.0, kernel='rbf', degree=3, gamma='auto', coef0=0.0, shrinking=True, prob...转载 2018-04-01 10:26:10 · 745 阅读 · 0 评论 -
xgboost入门与实战(实战调参篇)
前言前面几篇博文都在学习原理知识,是时候上数据上模型跑一跑了。本文用的数据来自kaggle,相信搞机器学习的同学们都知道它,kaggle上有几个老题目一直开放,适合给新手练级,上面还有很多老司机的方案共享以及讨论,非常方便新手入门。这次用的数据是Classify handwritten digits using the famous MNIST data—手写数字识别,每个样本相当于一转载 2018-01-27 13:41:16 · 514 阅读 · 0 评论 -
xgboost入门与实战(原理篇)
前言:xgboost是大规模并行boosted tree的工具,它是目前最快最好的开源boosted tree工具包,比常见的工具包快10倍以上。在数据科学方面,有大量kaggle选手选用它进行数据挖掘比赛,其中包括两个以上kaggle比赛的夺冠方案。在工业界规模方面,xgboost的分布式版本有广泛的可移植性,支持在YARN, MPI, Sungrid Engine等各个平台上面运行转载 2018-01-27 13:39:54 · 350 阅读 · 0 评论 -
机器学习-周志华-课后习题答案-决策树
4.1试证明对于不含冲突数据(即特征向量完全相同但标记不同)的训练集,必存在与训练集一致(即训练误差为0)的决策树答:假设不存在与训练集一致的决策树,那么训练集训练得到的决策树至少有一个节点上存在无法划分的多个数据(若节点上没有冲突数据,那么总是能够将数据分开的)。这与前提-不含冲突数据 矛盾,因此必存在与训练集一致的决策树 4.2试析使用“最小训练误差”作为决策树划分选择的缺陷。答:若以最小训练转载 2018-01-17 20:09:29 · 6946 阅读 · 1 评论 -
对生成对抗网络GANs原理、实现过程、应用场景的理解(附代码),另附:深度学习大神文章列表
生成对抗网络是14年Goodfellow Ian在论文Generative Adversarial Nets中提出来的。 记录下自己的理解,日后忘记了也能用于复习。 原文地址: http://blog.csdn.net/sxf1061926959/article/details/54630462生成模型和判别模型理解对抗网络,首先要了解生成模型和判别模型。判别模型比较好理解,就像分类一样,有一个判...转载 2018-06-17 10:15:45 · 2714 阅读 · 0 评论