求教Java后台数据处理程序集群解决方案

最近在我做一个Java后台数据处理方面的项目,这个程序要处理的数据非常大,大约是每秒100000条(高峰期)的样子,而且这个数据量将在不久的将来扩充到3到10倍。项目组里有人提出用集群的方法来提高处理的速度,他的想法是这样的:

每个服务器的功能是一样,但处理的数据是不同的,因为所有要处理的数据都有一个相同的ID字段。即有一个服务器用来分配数据,这样每个服务器都按照分配规则各自处理各自的数据。但要实现起来,我考虑了有以下一些问题:
1. 比如我们有5台服务器,开始确认有一台用于做分配器的工作(同时也做正常处理数据的工作),这台分配器上就要负责对其他4台服务器状态的维护,当发现有其他的服务器不响应的时候,即改变分配的原则,但这样势必要经常轮询其他服务器,是否会造成网络负担?
2. 假如现在这台分配器挂了,其他4台服务器应该有一台服务器会继续担负起分配器的工作,如何实现这种功能?
3. 数据分配的原则,因为这些数据的ID是动态进行变化的,即假定这次分配好了某台服务器处理某些ID的数据,但下次就要重要进行分配,而分配器就要额外连接数据库却获取每次要分配的数据情况,在数据量非常大,而有些任务又间隔比较短的情况下,这样做确实不是好方法。

以上就是我分析出来的问题,思索、查询良久,还没有想到如何去解决。不知道在这方面的集群有没有比较成熟的解决方案或者框架?请大家看看有什么好方法来解决这方面的问题?非常感谢。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值