ElasticSearch集群线上数据复制至测试环境

本文介绍了一种实战方法,将ElasticSearch线上集群的数据高效地复制到测试环境,包括3个步骤:导出数据到本地json,新建索引和映射,使用bulk API导入数据。整个过程在2分钟内完成35w条数据的迁移,提升了工作效率。文中提到可选地使用MongoDB作为中间存储仓库。
摘要由CSDN通过智能技术生成

工作中实战编写快速把ES中的线上数据,复制到测试环境ES(也可导入到DB):
分三步:

1.导出线上某集群环境的数据到本地json文件,index需保持一致

2.新建索引,mapping,别名等操作

3.利用bulk API导入数据

注:可直接一步修改index下所有type数据(会删除原有数据)


#!/usr/bin/python
# -*- coding=utf-8 -*-
import requests
from elasticsearch import Elasticsearch
import elasticsearch.helpers
import certifi
import json
import os
import time
from collections import deque
#请求获取ES数据:
class Request_es(object):
    def __init__(self,url,index):
        #索引
        self.re_index = index
        #ES的host
        self.url = url
        self.Es_host = Elasticsearch(self.url, use_ssl=False, ca_certs=certifi.where())
        #请求index的所有索引信息的 url:
        self.Es_index_url = url+'/'+self.re_index
        #搜索有数据的线上ES的url:
        self.ES_url = url+'/'+self.re_index+'/_search'
    #请求目标数据
    def search_data(self):
        print('request data begin...')
        # 创建前删除已有的json文件
        try:
            os.remove(self.re_index + "_data" + ".json")
        except:
            os.system('touch ' + self.re_index + "_data" + ".json")

        es_search_options = 
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值