Spark 实现Apriori

Spark实现Apriori算法,Apriori算法如果支持度高那么效果会很好,如果支持度设置的低,性能会比较差。

1:createNewItemsetsFromPreviousOnes需要优化,没有想清楚。

2:结果没有转换正确的ID,API可以优化成泛型。

3:原理不复杂,代码看看就全懂了。

代码

import java.io.Serializable;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.regex.Pattern;

import org.apache.spark.api.java.JavaPairRDD;
import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.mllib.linalg.Vector;
import org.apache.spark.mllib.linalg.Vectors;

import scala.Tuple2;

/**
 * 
 */

public class SparkApriori implements Serializable
{

    private static final Pattern SPACE = Pattern.compile( "\\s+" );
    private double minSupport;
    private int itemsetNumber;

    public SparkApriori( double minSupport )
    {
        super( );
        this.minSupport = minSupport;
    }

    public void run( JavaRDD<String> data )
    {
        final long count = data.count( );
        JavaPairRDD<String, Long> pairs = data.flatMap( s ->
        {
            List<Tuple2<String, Long>> list = new ArrayList<Tuple2<String, Long>>( );
            String[] strs = SPACE.split( s );
            // return new Tuple2<String, Long>(str);
            for ( String str : strs )
            {
                list.add( new Tuple2<String, Long>( str, 1L ) );
            }
            return list;
        } ).mapToPair( s -> s ).aggregateByKey( 0L, ( s1, s2 ) -> s1 + s2, ( s1,
                s2 ) -> s1 +

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值