关闭

SimpleUpdater

标签: SimpleUpdaterscalaspark权重更新
318人阅读 评论(0) 收藏 举报
分类:

org.apache.spark.mllib.optimization.SimpleUpdater 

SimpleUpdater 在SparkMLlib中用于权重特征向量的更新,在GradientDescent梯度下降中有用到

该类中只有一个compute方法进行权重更新

  •  权重更新规则
  weights=weights - stepSize/sqrt(iter)*gradient
  用步长除以迭代次数的平方根 作为本次迭代下降的因子
  •   返回本次梯度下降后更新的特征权重向量

SimpleUpdater 源代码如下


/**
 * :: DeveloperApi ::
 * A simple updater for gradient descent *without* any regularization.
 * Uses a step-size decreasing with the square root of the number of iterations.
 */
@DeveloperApi
class SimpleUpdater extends Updater {
  override def compute(
      weightsOld: Vector,
      gradient: Vector,
      stepSize: Double,
      iter: Int,
      regParam: Double): (Vector, Double) = {
    val thisIterStepSize = stepSize / math.sqrt(iter)
    val brzWeights: BV[Double] = weightsOld.toBreeze.toDenseVector
    brzAxpy(-thisIterStepSize, gradient.toBreeze, brzWeights)

    (Vectors.fromBreeze(brzWeights), 0)
  }


对该类的测试代码如下

package com.mllib.component

import org.apache.spark.mllib.optimization.SimpleUpdater
import org.apache.spark.mllib.linalg.Vectors

/**
 * 简单的权重更新 SimpleUpdater
 * 只有一个compute方法进行权重更新
 * 权重更新规则
 * weights=weights - stepSize/sqrt(iter)*gradient
 * 用步长除以迭代次数的平方根 作为本次迭代下降的因子
         返回本次梯度下降后更新的特征权重向量
 */

object SimpleUpdaterTest {
    def main(args: Array[String]): Unit = {
        val updater = new SimpleUpdater
        /**
         * weightsOld: Vector,
         * gradient: Vector,
      	 * stepSize: Double,
      	 * iter: Int,
         * regParam: Double)
         */
        val weightsOldArr = Array[Double](1,2,3,4)
        val weightsOld = Vectors.dense(weightsOldArr)  //上次迭代计算后的特征权重向量
        val gradient = Vectors.dense(Array[Double](2,3,4,5)) //本次迭代的特征权重向量
        val stepSize = 0.1    //步长
        val iter = 1 //迭代次数
        val regParam = 0.0 //正则参数,SimpleUpdater是一个简单的梯度下降方法,不包括正则化,所以该参数取值没有用到
        //compute方法
        //用步长除以迭代次数的平方根 作为本次迭代下降的因子
        //返回本次梯度下降后更新的特征权重向量
        val res = updater.compute(weightsOld, gradient, stepSize, iter, regParam) //更新权重
        println(res._1.toArray.mkString(",")) //0.8,1.7,2.6,3.5
        println(res._2) //0.0  这里源代码返回0
    }
  
}


装载请注明http://blog.csdn.net/wguangliang



0
0

查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:16485次
    • 积分:301
    • 等级:
    • 排名:千里之外
    • 原创:17篇
    • 转载:4篇
    • 译文:0篇
    • 评论:1条
    最新评论