Storm【实践系列-如何写一个爬虫 2】 - RandomURLSpout

2019独角兽企业重金招聘Python工程师标准>>>

阅读背景：您需要对Storm的基本处理机制做一个详尽的了解。

 

package com.digitalpebble.storm.crawler.spout;

import java.util.Map;
import java.util.Random;

import backtype.storm.spout.SpoutOutputCollector;
import backtype.storm.task.TopologyContext;
import backtype.storm.topology.OutputFieldsDeclarer;
import backtype.storm.topology.base.BaseRichSpout;
import backtype.storm.tuple.Fields;
import backtype.storm.tuple.Values;
import backtype.storm.utils.Utils;

public class RandomURLSpout extends BaseRichSpout {
	SpoutOutputCollector _collector;
	Random _rand;

	public void open(Map conf, TopologyContext context,
			SpoutOutputCollector collector) {
		_collector = collector;
		_rand = new Random();
	}

	public void nextTuple() {
		Utils.sleep(100);
		String[] urls = new String[] { "http://www.lequipe.fr/",
				"http://www.lemonde.fr/", "http://www.bbc.co.uk/",
				"http://www.facebook.com/", "http://www.rmc.fr" };
		String url = urls[_rand.nextInt(urls.length)];
		_collector.emit(new Values(url));
	}

	@Override
	public void ack(Object id) {
	}

	@Override
	public void fail(Object id) {
	}

	public void declareOutputFields(OutputFieldsDeclarer declarer) {
		declarer.declare(new Fields("url"));
	}

}

    在这里，我们继承的是 

BaseRichSpout

  SimpleTips，  在这里，URL 对象将源源不断的发射我们所需要的URL 对象。

转载于:https://my.oschina.net/infiniteSpace/blog/303671