本发明属于数据库迁移领域,具体地讲涉及一种kafka与elasticsearch数据库数据的互相迁移方法。
背景技术:
实现数据共享,可以使更多的人更充分地使用已有数据资源,减少资料收集、数据采集等重复劳动和相应费用,而把精力重点放在开发新的应用程序及系统集成上。由于不同用户提供的数据可能来自不同的途径,其数据内容、数据格式和数据质量千差万别,因而给数据共享带来了很大困难,有时甚至会遇到数据格式不能转换或数据转换格式后丢失信息的棘手问题,严重地阻碍了数据在各部门和各软件系统中的流动与共享。
kafka数据库和elasticsearch数据库是目前较常用的两种数据库,实现他们之间的数据迁移对于数据流动与共享具有重大意义。
技术实现要素:
根据现有技术中存在的问题,本发明提供了一种kafka与elasticsearch数据库数据的互相迁移方法,其实现了kafka数据库与elasticsearch数据库数据的快速互相迁移,满足了数据流动与分享需求。
本发明采用以下技术方案:
一种kafka与elasticsearch数据库数据的互相迁移方法,包括如下步骤:
s1,读取kafka数据库和elasticsearch数据库配置文件的运行参数;并获取kafka数据库和elasticsearch数据库的元数据;
s2,根据kafka数据库的元数据生成kafka数据库的模型,获得kafka数据库在代码中使用的类名和键名;根据elasticsearch数据库的元数据生成elasticsearch数据库的模型,获得elasticsearch数据库在代码中使用的类名和字段名;
s3,根据数据迁移需求分别生成kafka数据库和elasticsearch数据库在代码中使用的配置文件定制模板;
s4,根据kafka数据库在代码中使用的类名及键名、elasticsearch数据库在代码中使用的类名及字段名、kafka数据库和elasticsearch数据库在代码中使用的配置文件定制模板生成可执行运行文件,运行可执行运行文