公司产品近年来饱受大数据量的困扰,老板已无数次召集讨论,思商许久,不得不迈步前进。
公司资源有限,没预算报班培训。抱着对老板的满腔热血,自个从不懂大数据技术的前提下,
硬生生杀条血路。
以下从公司产品的角度选型的万里长征:
1)在大伙都不懂的情况下,最初测试MYSQL分布式。
2)再测试,MYSQL分表分库:复杂,资源有限不敢上,且不一定能解决问题。
3)研究MYSQL核心,B+树结构,注定不支持大数据。放弃,决定去研究NoSQL。
4)MongoDB能存储大数据但SEARCH性能不限。
5)Redis Search性能起来了,但是where条件有限。
6)ES,刚开始测试6.0版本,不知道是机子问题还是自个能力有限,Search性能上不来,由于工作忙原因,放下了几年。
7)2023年中因为大数据量问题不敢接好几个项目,终于再提起,在这其间公司其他同事都在断断继继的研究中。。。
8)本人再次提枪上马,从23年9月到24年9月,测试了13个产品,其中3个是深入测试,终于找到一个合适的方案。
9)其中ES+HBASE,个人是觉得最靠谱的,但是产品的代码几乎要全改写,最终没用此方案。
现在,技术选型已确定,要去改造产品了,预计历时1年,
本人提出奖金,不知道公司答应不?!希望。。。
本人技术是有限公司,只是分享帖子,分享而已。谢谢!