scala应用-基于user协同过滤的推荐系统

这篇博客介绍了一个使用Scala编写的用户协同过滤推荐系统,适用于小数据集,可以通过修改实现多线程。尽管百M级别的数据在多线程和分布式计算上的时间差异不大,但了解Scala的线程池对于优化至关重要。文中提到了`SimilarityMetrics.scala`、`UserNeighborhoodRecommender.scala`和`UserNeighborhoodRecommenderMain.scala`三个关键文件,并指出在Spark上进行分布式运算时,仍需依赖RDD,而非所有Scala代码都会自动分布式执行。
摘要由CSDN通过智能技术生成

以下是一个只用scala语言开发的推荐系统,可以参考一下,这个能运行一些小数据集,当然可以改造成多线程,实践中表明,百M级别多线程和分布式的相同配置的机器在运算上并没有很大的时间上的差别。这个要研究scala源码的线程池对象(和java的很类似)。

SimilarityMetrics.scala:

package com.glad.ml

object SimilarityMetrics {
   
  /**
   * Calculate Pearson Correlation
   * @param u
   * @param v
   * @return
   */
  def pearsonCorrelation(u: Map[Int, Double], v: Map[Int, Double]): Double = {

    val xMean = u.values.sum / u.values.size
    val yMean = v.values.sum / v.values.size

    val diffValues = (u.keys ++ v.keys).map { key =>
      // what to do with missing values?
      val x = u.getOrElse(key, 0.0)
      val y = v.getOrElse(key, 0.0)

      (x - xMean, y - yMean)
    }

    val (cov, sx, sy) = diffValues.foldLeft((0.0, 0.0, 0.0)) { (a, b) =>
      val (x, y) = b
      (a._1 + (x * y), a._2 + (x * x), a._3 + (y * y))
    }
    // pearson correlation

    cov / (Math.sqrt(sx) * M
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值