mahout SparseVectorsFromSequenceFiles详解(1)

mahout预处理数据的第一步是将文档转化为可以被hadoop处理的sequencefile,第二步是从sequencefile转化为Vector,称为Vectorizer过程,这里剖析的SparseVectorsFromSequenceFiles是其中一个实现。

SparseVectorsFromSequenceFiles.java位置在mahout-distribution-0.6/core/src/main/java/org/apache/mahout/vectorizer

初始化过程

1、创建builder:

DefaultOptionBuilder

ArgumentBuilder

GroupBuilder

2、创建Option:

inputDirOpt

outputDirOpt

minSupportOpt

analyzerNameOpt

chunkSizeOpt

weightOpt

minDFOpt

maxDFPercentOpt

maxDFSigmaOpt

minLLROpt

numReduceTasksOpt

powerOpt

logNormalizeOpt

maxNGramSizeOpt

sequentialAccessVectorOpt

namedVectorOpt

overwriteOutput

helpOpt

3、创建Group

4、创建parser,参数是group

      Parser parser = new Parser();
      parser.setGroup(group);
      parser.setHelpOption(helpOpt);

5、获得CommandLine

CommandLine cmdLine = parser.parse(args);

6、通过CommandLine获得各参数值,例如:

      int minDf = 1;
      if (cmdLine.hasOption(minDFOpt)) {
        minDf = Integer.parseInt(cmdLine.getValue(minDFOpt).toString());
      }


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值