sparkGraphx图计算DEMO

spark图计算简单来说就是构建边集合,点集合,然后把边集合,点集合放到graphx中进行计算。
下面我用scala写一下spark图计算的demo。

package sparksql

import org.apache.spark.graphx.{Edge, Graph}
import org.apache.spark.{SparkConf, SparkContext}

object sparkgraphx {
  //spark图计算demo
  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("test").setMaster("local[*]")
    val sc = new SparkContext(conf)
    //定点
    val vertexArray = Array(
      (1L, ("Alice", 38)),
      (2L, ("Henry", 27)),
      (3L, ("Charlie", 55)),
      (4L, ("Peter", 32)),
      (5L, ("Mike", 35)),
      (6L, ("Kate", 23))

    )

    //边
    val edgeArray = Array(
      Edge(2L, 1L, 5),
      Edge(2L, 4L, 2),
      Edge(3L, 2L, 7),
      Edge(3L, 6L, 3),
      Edge(4L, 1L, 1),
      Edge(5L, 2L, 3),
      Edge(5L, 3L, 8),
      Edge(5L, 6L, 8)

    )
    val vertexRdd = sc.parallelize(vertexArray)
    val edgeRdd = sc.parallelize(edgeArray)
    val graph = Graph(vertexRdd, edgeRdd)
    println("年龄大于20的人")
    graph.vertices.filter(v => v._2._2 > 20).collect.foreach {
      v => println(s"${v._2._1} is ${v._2._2}")

    }
    println("图中属性大于3的边")
    graph.edges.filter(e => e.attr > 3).collect
      .foreach(e => println(s"${e.srcId} to ${e.dstId} att ${e.attr}"))
      println("triplet操作")
      for (t<-graph.triplets.filter(s=>s.attr>3).collect){
        println(s"${t.srcAttr._1} likes ${t.dstAttr._1}")
      }

  }

}
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值