- 博客(1)
- 收藏
- 关注
原创 利用pyspark.ml训练lightgbm模型的流程
在spark上训练模型的优势:(1)机器学习算法一般都有很多个步骤迭代计算的过程,机器学习的计算需要在多次迭代后获得足够小的误差或者足够收敛才会停止,迭代时如果使用一般的Hadoop分布式计算框架,每次计算都要读 / 写磁盘以及任务的启动等工作,这回导致非常大的 I/O 和 CPU 消耗。而 Spark 基于内存的计算模型天生就擅长迭代计算,多个步骤计算直接在内存中完成.(2)从通信的角度...
2018-12-27 16:42:58 14621 22
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人