1、git+idea开发项目 (一键上传到本地仓库后),通过git代码管理工具连接jenkins,配置项目,并且使用插件连接docker,使用docker-compose完成项目的一键式本地部署
2、hadoop,hadoop是一个分布式文件系统,我理解是一种存储系统,主要作用肯定是存储,但是由于是分布式所以会有集群和高可用搭建,这里是一个三主机的hadoop搭建架构。
大家可以自己尝试。
3、hbase,基于hadoop的分布式列式数据库,连接hadoop文件系统(文件系统部署完成后连接成功类似是多个文件夹那种存储),下面是两台hbase分布式数据库高可用集群架构(两台),大家可以尝试搭建
4、hive作为基于hadoop的一个数据管理工具,主要作用是对hadoop文件系统的数据管理
将文件系统转换为sql类型格式,然后使用sql命令操作hadoop文件系统,hive的集群搭建架构(两台)
5、zookeeper 分布式集群协调工具,顾名思义,分布式工具配置,协调,高可用切换等。(三台)可以让kafka注册到zk里面协调kafka集群
6、keepalive 我称它为ip漂移工具,实时监测心跳(连接是否断开的工具)在mysqlMHA,prestoMHA、nginx高可用 可以使用到
简单案例,通过检测nginx心跳是否正常运行来转发请求到tomcat服务器,假如一个nginx断开,那么ip会飘移到另一台nginx继续保证服务可用
7、 Presto 是由Facebook开发的一款开源的分布式SQL查询引擎
可以连接到分布式数据库查询
8、kafka,消息中间件,同大多数消息中间件,削峰、异步队列,优化系统的高负载情况
9、redis 键值对的数据库,可以作为缓存数据库,加快数据库读写速度。
后端查询mysql数据库之后将查询结果存入redis缓存数据库中并设置时间,下次读取设置后端读取redis缓存数据库,若redis数据库不存在数据则查询mysql数据库之后存储回redis中
集群模式一主两从 一主一从
10、elasearch 分布式数据库查询引擎、分布式文档型数据库。
最后附上一个自己想的架构