30亿日志,检索+分页+后台展示,你是否遇到过更奇葩的需求?

针对30亿日志的检索+分页+后台展示需求,文章讨论了Oracle分区表存在的问题及优化建议。建议使用Hive或ES存储,Hive适合大容量且模式固定,ES则适合检索需求。同时强调了存储、检索和扩展性问题的解决方案,提倡业务层自定义拆分以应对数据量增长。
摘要由CSDN通过智能技术生成

沈老师,你好,想请教一个数据库查询日志,前台页面显示的问题。

 

需求

(1)按照某些特定检索条件查询日志;

(2)通过前台Web页面查询并显示相关日志信息;

(3)检索需求包含用户,时间段区间,类型等特定字段;

希望做到

(1)查询速度尽可能快;

(2)支持分页查询;

 

目前方案

日志信息存储在Oracle中,根据日期对Oracle做了分区处理,每天生成一个分区表,每个分区表中的数据总量大概在1000W左右。在相关查询字段例如用户,类型上建立索引,来满足不同维度的查询需求。

 

潜在问题

跨分区的查询,求记录总数(计算分页时的查询),耗时要3-4分钟&#

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值