lucene 处理大规模数据的一些解决方法 katta--简介

Katta是一个分布式应用,用于管理大量Lucene索引和Hadoop MapFiles,提供高性能和容错功能。通过拆分索引并分布式存储,Katta支持多线程搜索和快速结果合并,适配高并发搜索需求。借助Zookeeper进行主从节点通信,确保集群稳定性。此外,Katta还支持分布式评分和易于与其他系统集成。
摘要由CSDN通过智能技术生成

lucene 索引文件有大概10G,搜索时候比较慢,最好拆分存放索引,多位置同时搜索


当数据量较大访问量较大的时候,分布式就不可避免,处理方式有下面几种:

1,用一个好服务器作为索引服务器,磁盘冗余的方式保证搜索的正常进行;

2,索引服务器用一台,检索服务器用分布式;

3,编写索引算法,分布式存放,检索时采用多线程搜索合并搜索结果返回;

4,索引分布式存储用硬件的方式保证索引文件的同步,检索也采用分布式。


5  不同业务,不同分布。


分布如何做好,看对搜索的要求,比如要求整个索引搜索要求多少时间内完成,搜索整体便于扩展,当中一服务器宕机,如何快速调整,承受高并发搜索,如何监视 整个集群的运转,如何不断提升搜索。

 

 

 

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值