CLI使用案例6:使用CLI的灵活时间格式来执行查询、报警和下载等

使用CLI的灵活时间格式来执行查询、报警和下载等

介绍

在查询、统计、拉取时需要传入时间范围,但是经常我们需要传入更灵活的参数,如:"今天凌晨","昨天","3天前","现在"等参数时,大脑需要费力的换算成对应的时间格式,如"2018-8-1 10:10:00"等。
另一方面,用脚本定期跑的时候,需要相对这样的相对值,例如,每5分钟查询,过去60分钟的范围的数据是否有异常等。每次执行希望有一个时间范围是:过去60分钟到现在。

现在这样的方式CLI支持了!

支持的方法

以下方法的参数,如from_timeto_time等目前也接受相对时间了。

方法作用
get_log查询统计数据(参数放在文件中),未完成时自动重试。
get_logs查询统计数据(参数放在命令行中),未完成时自动重试。
get_log_all迭代式查询更大量的数据,未完成时自动重试。
pull_log基于服务器接受时间范围,批量拉取特定shard的数据。
pull_log_dump并发批量下载logstore所有shard的数据到本地。
get_cursor获取特定服务器时间特定shard的游标(以便基于游标拉取数据)
copy_data基于服务器时间复制数据到目标logstore
transform_data基于服务器时间转换数据到目标logstore

支持的时间格式

除了常规的格式,例如:"%Y-%m-%d %H:%M:%S+8:00"的例子"2018-01-02 12:12:10+8:00";
也支持"1 hour ago", "now", "yesterday 0:0:0"等格式了。更多格式也可以参考https://dateparser.readthedocs.io/en/latest/

范围时间例子
相对1分钟-1min ~ now, 或 1 min ago ~ now
相对4小时-4h ~ now,或 4 hours ago ~ now 或 4 hour ago
相对1天(24小时)-1d ~ now,或 1 day ago ~ now
相对1周(7*24小时)-1week ~ now, 或 1 week ago ~ now
今天today 0:0:0 ~ now
昨天yesterday 0:0:0 ~ yesterday 23:59:59,或 1 day ago 0:0:0 ~ -1d 23:59:59
前天the day before yesterday 0:0:0 ~ 2 day ago 23:59:59

例子

实时显示当前网站UV

如下命令

aliyunlog log get_log --project=pdata1 --logstore=log1 --from_time="today 00:00:00" --to_time="now" --query="host: www.dcd.mock-domain.com | select count(distinct remote_addr) as uv" --jmes-filter="join('\n', map(&to_string(uv), @))"

每次运行时都会显示今天的独立访问客户的数量

定期导出客户端IP列表

aliyunlog log get_log --project=pdata1 --logstore=log1 --from_time="yesterday 00:00:00" --to_time="yesterday 23:59:59" --query="host: www.dcd.mock-domain.com | select distinct remote_addr" --jmes-filter="join('\n', map(&to_string(remote_addr), @))"

以上命令可以在每天0:0:1运行,导出昨天的独立访问客户的列表

进一步参考

  • 扫码加入官方钉钉群 (11775223):
    image
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值