阿里云 SLS 日志数据同步 MaxCompute 实操

背景

阿里云日志服务(SLS)是一种实时日志数据收集存储查询分析 的全托管服务,帮助用户高效管理和利用日志数据。我司将线上服务日志收集到 SLS ,但是 SLS控制台 分析日志很不方便,想将日志 Sink 到数仓中再进行。在这里我将使用 2 中方式达成上述目标。

DataWorks 离线同步

首先,我们使用 DataWorks 的离线同步功能,这种方式方便快捷,需要先创建一个 Di 任务 ,具体如下:
在这里插入图片描述
选择 sourcetarget 数据源,接着 一键创建表结构,配置好 字段映射 ,最后同步数据即可。

SLS Sink

其次,SLS 控制台日志存储 列表中有数据导出功能,具体如下图:

Alt
点击 导出>MaxCompute 创建 投递任务,具体如下图:
在这里插入图片描述
首先要创建 target table ,然后给自定义角色赋权,详细赋权操作内容可见通过自定义RAM角色写数据到MaxCompute
在这里插入图片描述
其次,要配置好字段映射分区列 设置可见保留字段投递模式可以选择 实时或者批投递。创建完成之后开启任务即可,任务详情可见:

在这里插入图片描述
以上就是将 SLS 日志数据同步 MaxCompute 的两种方法,有任何问题欢迎大家在评论区留言。

  • 6
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值