solrcloud ，solr在集群中建立索引

最新推荐文章于 2020-12-08 21:37:44 发布

weixin_34245749

最新推荐文章于 2020-12-08 21:37:44 发布

阅读量152

点赞数

文章标签：大数据 python

原文链接：https://my.oschina.net/u/2293326/blog/516216

版权

2019独角兽企业重金招聘Python工程师标准>>>

1 通过通过zookeeper通道建立索引

public static void main(String[] args) throws IOException, SolrServerException {
        //注意，zkHost在windows伪分布式与hadoop分布式设置不一样
        //windows伪分布式zkHost最后不需要加"/solr"，linux的hadoop中需要添加"/solr"
		String zkHost = "node1:2181,node2:2181,node3:2181/solr";
		String defaultCollection = "collection1";
		CloudSolrServer server = new CloudSolrServer(zkHost);
		server.setDefaultCollection(defaultCollection); 		
		for (int i = 0; i < 1000; ++i) {
			SolrInputDocument doc = new SolrInputDocument();
			doc.addField("cat", "book");
			doc.addField("id", "book-" + i);
			doc.addField("name", "The Legend of Po part " + i);
			server.add(doc);
			if (i % 100 == 0)
				server.commit(); // periodically flush
		}
		server.commit();
	}

2 注意，CDH中，可以看zookeeper的设置，最大链接数为60，所以对于zookeeper一般用单例

public class myCloudSolrServer {

    // solrServer
    public static CloudSolrServer solrServer;

    
    //效率不高的方法
//    public static synchronized CloudSolrServer getSolrServer() {
//        if (solrServer == null) {
//            try {
//                solrServer = new CloudSolrServer(Const.ZK_HOST + "/solr");
//                final int zkClientTimeout = 20000; // 心跳20秒
//                final int zkConnectTimeout = 10000; // 设置链接主机超时（单位毫秒）
//
//                solrServer.setDefaultCollection(Const.defaultCollection);
//                solrServer.setZkClientTimeout(zkClientTimeout);
//                solrServer.setZkConnectTimeout(zkConnectTimeout);
//            } catch (Exception e) {
//                e.printStackTrace();
//            }
//        }
//        return solrServer;
//    }

    //支持大并发方法
    public static CloudSolrServer getSolrServer() {
        if (solrServer == null) {
            synchronized (myCloudSolrServer.class) {
                if (solrServer == null) {
                    try {
                        solrServer = new CloudSolrServer(Const.ZK_HOST + "/solr");
                        final int zkClientTimeout = 20000; // 心跳20秒
                        final int zkConnectTimeout = 10000; // 设置链接主机超时（单位毫秒）
                        solrServer.setDefaultCollection(Const.defaultCollection);
                        solrServer.setZkClientTimeout(zkClientTimeout);
                        solrServer.setZkConnectTimeout(zkConnectTimeout);
                    } catch (Exception e) {
                        e.printStackTrace();
                    }
                }
            }
        }
        return solrServer;
    }
}

3 急群中可以指定到某个分片

public static void main(String[] args) throws IOException, SolrServerException {
		String url= "node1:8983/solr/core_shard1_replica1";
		String defaultCollection = "collection1";
		HttpSolrServer server = new HttpSolrServer (url);	
		server.setDefaultCollection(defaultCollection); 	
		
		for (int i = 0; i < 1000; ++i) {
			SolrInputDocument doc = new SolrInputDocument();
			doc.addField("cat", "book");
			doc.addField("id", "book-" + i);
			doc.addField("name", "The Legend of Po part " + i);
			server.add(doc);
			if (i % 100 == 0)
				server.commit(); // periodically flush
		}
		server.commit();
	}

注意，在建立索引的时候，不要每一个就去commit，为了提高效率，一般用

 Collection<SolrInputDocument> docs = new ArrayList<SolrInputDocument>();
 for(){
 SolrInputDocument doc = new SolrInputDocument();  
 docs.add(doc);
 }
  server.add(docs);
  server.commit();

其实 server.commit()效率也不高，一般用软提交

转载于:https://my.oschina.net/u/2293326/blog/516216