snaillup的博客

之前的文章里我们的重点放在寻找L-BFGS算法的搜索方向上，本文将介绍L-BFGS算法用到的另一个重要算法–线搜索。

spark随机森林源码分析的第四篇，主要介绍node的分裂，也就是主要的训练过程

spark 随机森林源码分析的第三篇，主要介绍分裂时使用的一些数据结构和节点选择

Spark在mllib中实现了tree相关的算法，其基础都是随机森林，本文及后续对RF的源码进行分析，介绍spark在实现过程中使用的一些技巧。如只对其使用感兴趣，则阅读本文就可以了。

本文结合理论简介spark OWLQN算法的源码实现

我们将介绍spark在ml包中封装的逻辑回归Elastic Net，通过配置可以灵活的同时使用L1和L2，或者其一，同时根据正则化选择使用L-BFGS或OWLQN优化。本文是其中的第一篇，介绍模型训练，预测中使用的一些辅助类。

我们将介绍spark在ml包中封装的逻辑回归Elastic Net，通过配置可以灵活的同时使用L1和L2，或者其一，同时根据正则化选择使用L-BFGS或OWLQN优化。本文是其中的第二篇，介绍模型训练。

简要介绍L-BFGS的原理，分析spark中L-BFGS的源码实现，这是第一部分

spark L-BFGS的第二篇，主要介绍训练过程

spark随机森林源码分析最后一篇，主要介绍模型的保存、加载，总结spark实现的坑

介绍spark中二分类的评价指标及实现，包括AUC，召回率，F-measure等

上文我们介绍了线搜索及线搜索算法，而spark-breeze使用的正是强Wolfe条件搜索算法

spark随机森林的实现中用到了蓄水池抽样，主要是用在特征集抽样中，本文对蓄水池抽样的原理和spark源码进行简单分析。

在分布式应用中，有时候需要把一些东西，例如cookie，编码成int/long型数字，在这里提供一些思路。 1. 集中式编码 类似于单机，将所有cookie重新切分在一起，按次序编码var idnum:Long = 0idrdd.repartition(1).map(oriId => { idnum += 1 (oriId, idnum) }).rep

spark是直接调用的breeze库中的算法，具体是在LBFGS.AppoximateInverseHessian类重载了*运算符

介绍了spark中L1与L2正则化的实现

介绍online均值/方差统计算法在spark中的实现

spark random forest源码分析系列之二，主要介绍特征、样本的处理

排列组合是高中课程的重要内容，坑爹的计算各种花样百出的排列组合数。最近又遇到了组合，突然想起来刚毕业时，研究过这种方法，甚为巧妙，这里记录下。 组合有种应用是在把一堆物品分成两类，应该怎样分，有多少种分法，本文就是针对这种情况。1. 有多少种分法我们假设有k个物品，分别为k(0), …,k(n-1)，则其分为两类可分成以下的情况分成1/(k-1)两类，则为C1kC_k^1分成2/(k-2)两类

相关文章 spark源码分析之随机森林(Random Forest)我们在前面的文章讲过，在spark的实现中，树模型的依赖链是GBDT-> Decision Tree-> Random Forest，前面介绍了最基础的Random Forest的实现，在此基础上我们介绍Decision Tree和GBDT的实现。1. Decision Tree1.1. DT的使用官方给