ElasticSearch - 抓取ES数据到本地文件

  • 使用此脚本可以将ES上的数据抓取到本地文件,因为使用ES scroll实现,所以不受限于limit 10000笔影响
  • 需要提前安裝 jq command
    • Linux 安裝 : sudo apt install jq
    • Centos 安裝 : sudo yum install jq
    • MacOS 安裝 : brew install jq
#!/bin/bash
# ------------------------------------------------------------------------------
# Filename : scroll_es_data.sh
# Revision : 1.0
# Date : 2019-06-12
# Author : junwei.gu
# Email : pk74323jacky@163.com
# Description : 抓取ES数据到本地文件
# ------------------------------------------------------------------------------

# 存放文件路径
FILE="/Users/kujudy/tools/es_data/scroll_temp"

# ES访问地址
HOST=""
# ES index
INDEX=""
# ES type
TYPE=""

#scroll数据
function scroll(){
    search_dsl='
        {
            "query": {
                "match_all": {}
            },
            "size": 100
        }
        '

    json=$(
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值