分类Classification-维基百科例子(Wikipedia Bayes Example)

[size=large]介绍[/size]
这个Mahout例子的源码来自一个分类维基百科数据的导出工具,可以Naive贝叶斯或者附加的 Naive贝叶斯在Mahout的实现。下面将描述这个例子,导出维基的数据,然后分类到不同的块。这些块是根据国家进一步分类的。根据这些分割,分离器训练使能够预测,一个未曾看到过的文章被分类到那个国家。

[size=large]运行例子[/size]
1.下载维基百科[url=http://download.wikimedia.org/enwiki/latest/enwiki-latest-pages-articles.xml.bz2]数据[/url]

2.解压文件,得到enwiki-latest-pages-articles.xml

3.创建目录$MAHOUT_HOME/examples/temp,拷贝这个xml到这里

4.牵出数据
$MAHOUT_HOME/bin/mahout wikipediaXMLSplitter -d $MAHOUT_HOME/examples/temp/enwiki-latest-pages-articles10.xml -o wikipedia/chunks -c 64

我们强烈的建议,备份这个结果到另外一个目录,这样下次就不需要同样操作这个步骤如果发生意外情况

5.创建chunks到HDFS,进行如下核实
hadoop fs -ls wikipedia/chunks

将列出所有的文件,如chunk-0001.xml...

6.基于分割的维基百科数据,创建国家
$MAHOUT_HOME/bin/mahout  wikipediaDataSetCreator  -i wikipedia/chunks -o wikipediainput -c $MAHOUT_HOME/examples/src/test/resources/country.txt


7.验证创造出的数据
hadoop fs -ls wikipediainput 

你将能够看到part-r-00000这个文件

8.Train分离器
$MAHOUT_HOME/bin/mahout trainclassifier -i wikipediainput -o wikipediamodel

这个模型文件将能够从HDFS上的wikipediamodel目录获取到

9.Test分离器
$MAHOUT_HOME/bin/mahout testclassifier -m wikipediamodel -d wikipediainput



原文连接:https://cwiki.apache.org/confluence/display/MAHOUT/Wikipedia+Bayes+Example
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值