linux脚本实现到数据到es,从es中提取全量数据的shell脚本

该博客展示了如何使用Shell脚本执行Elasticsearch查询,通过循环结构从索引'direct_vote/kwaddress'中获取数据。脚本通过拼接curl命令和动态设置查询参数来实现数据分页,将结果保存到res文件中。
摘要由CSDN通过智能技术生成

[root@hadoop3 xiaole_chk_url]# sh looh.es.res.sh

100

200

1

% Total % Received % Xferd Average Speed Time Time Time Current

Dload Upload Total Spent Left Speed

100 61740 100 61721 100 19 472k 148 --:--:-- --:--:-- --:--:-- 474k

200

300

2

% Total % Received % Xferd Average Speed Time Time Time Current

Dload Upload Total Spent Left Speed

100 90475 100 90456 100 19 752k 161 --:--:-- --:--:-- --:--:-- 755k

[root@hadoop3 xiaole_chk_url]# cat looh.es.res.sh

loop_step=100

loop_stop=3

loop_period_start=0

loop_period_end=0

res_file=res.${BASH_SOURCE}.json.txt

log_file=${BASH_SOURCE}.log

#es_str0='curl 'hadoop3:9200/direct_vote/kwaddress/_search?pretty=true' -d '{"from": '

#es_str1='curl 'hadoop3:9200/direct_vote/kwaddress/_search?pretty=true' -d '{"from": 1,"size": 10}''

es_str=''

for((i=1;i

do

loop_period_start=$((i*loop_step))

loop_period_end=$((loop_period_start+loop_step))

echo $loop_period_start

echo $loop_period_end

echo $i

es_str='curl hadoop3:9200/direct_vote/kwaddress/_search?pretty=true -d "{"from":'${loop_period_start}',"size":'${loop_period_end}}'"'

eval $es_str > $res_file

done

exit 0

[root@hadoop3 xiaole_chk_url]# head res.looh.es.res.sh.json.txt

{

"took" : 115,

"timed_out" : false,

"_shards" : {

"total" : 7,

"successful" : 7,

"failed" : 0

},

"hits" : {

"total" : 29489918,

[root@hadoop3 xiaole_chk_url]# head res.looh.es.res.sh.json.txt

shell  字符串与数字 拼接

执行字符串语句

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值