日志服务(原SLS)新功能发布(9)--Logtail配置支持主题(Topic)设置功能

日志服务中日志为日志服务中处理的最小数据单元,采用半结构化数据模式定义一条日志,具体数据模型包括主题(Topic)、时间(Time)、内容(Content)和来源(Source),详细描述请参考核心概念。其中主题(Topic)为用户自定义字段,用以标记一批日志(例如:访问日志根据不同站点进行标记),默认值为空字符串(空字符串也为一个有效的主题)。用户可以通过使用REST API/SDK上传数据时设置主题。除此之外,Logtail客户端为日志服务用户常用的数据接入客户端,目前也支持设置使用不同的属性设置主题名称。

Logtail主题配置可以在Logtail配置页面中“高级选项”进行设置,目前支持4中主题设置方式:空字符串(默认值)、文件路径、文件路径正则和机器组Topic属性。页面详情请参考截图。
_TOPIC

空字符串

空字符串即Logtail主题配置的默认值,在使用“日志索引”功能进行关键词查询时不需要输入任何主题名称即可查询上传数据。
_

文件路径正则

使用场景

如果服务日志根据不同的用户或者实例将日志记录在不同目录下面,但是日志比如下面的目录结构:

/logs
  | - /userA/serviceA
    | - service.log
  | - /userB/serviceA
    | - service.log
  | - /userC/serviceA
    | - service.log

使用Logtail配置文件路径为“/logs”,文件名称为“service.log”后,会将三个service目录下的日志内容实时收集至服务端,但是无法明确区分日志内容具体由哪个用户或者实例产生。此时可以设置“Topic生成方式”为“文件路径正则”,并且输入正则表达式“/(.*)/serviceA/.*”提取实例名称。

查询方式

当选择“文件路径正则”主题生成方式时,Logtail上报数据时会将实例名称作为主题名称上传至日志服务,根据上述目录结构和配置,会生成3个topic,其分别为“userA”、“userB”和“userC”,在使用“日志索引”功能查询时需要指定主题名称为实例名称。
_

机器组Topic属性

使用场景

假设公司通过一批前端机器对外提供HTTP服务,但是对于VIP用户希望提供更高的SLA,因此将其中部分机器只对VIP用户开放服务,对于所以HTTP访问日志目录结构如下:

/logs
  | - access.log

使用Logtail配置文件路径为“/logs”,文件名称为“access.log”后,会将所有前端机对应的访问日志都实时收集至服务端,但是无法明确区分是由哪组前端服务器产生。此时可以设置“Topic生成方式”为“机器组Topic属性”,之后将前端机器分成“normal-group”和“vip-group”两个机器组,在创建机器组时,可以设置两个机器组的Topic属性分别为“normal”和“vip”,具体设置方式截图如下:
_

将两个机器组应用之前创建的Logtail配置后,即完成对应配置。Topic属性会根据机器组应用到对应机器,为防止歧义,请不要对同一台机器应用不同Topic数值,否则会在Topic之间进行切换。

查询方式

当选择“机器组Topic属性”主题生成方式时,Logtail上报数据时会将机器所在机器组的Topic属性作为主题名称上传至日志服务,在使用“日志索引”功能查询是需要指定主题名称为特定机器组Topic属性。
_TOPIC

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Logtail 是阿里云日志服务提供的一款日志采集工具,支持多种日志格式和日志源。下面是 Logtail 从入门到精通的学习路径: ### 入门篇 1. 学习 Logtail 的基本概念和理 - Logtail 是一种日志采集器,用于采集服务器、容器等设备上的日志。 - Logtail 采集日志的方式有两种:轮询式和推送式。 - Logtail 可以支持多种日志格式,如 JSON、XML、CSV 等。 2. 安装和配置 Logtail - 可以通过阿里云日志服务控制台或者命令行方式安装 Logtail。 - 在 Logtail 配置文件中设置需要采集的日志路径、格式等信息。 3. 使用 Logtail 进行日志采集 - 启动 Logtail 后,可以通过控制台查看采集到的日志数据。 ### 进阶篇 1. 深入了解 Logtail配置文件 - Logtail 配置文件由多个 section 组成,包含了采集、过滤、分组等相关配置。 - 可以通过正则表达式或者关键字方式设置过滤规则,对日志进行过滤。 2. 学习 Logtail 的高级功能 - Logtail 支持日志压缩和加密传输。 - 可以通过 Logtail 提供的 API 接口进行日志采集和管理。 - Logtail支持自定义插件,可以扩展其功能。 3. 掌握 Logtail 的故障排除和优化 - 在日志采集过程中,可能会出现网络连接、权限等问题,需要进行排查。 - 可以通过 Logtail 提供的日志调试工具查看采集日志的详细信息。 - 针对大规模日志采集,可以进行性能优化,提高采集效率和稳定性。 ### 精通篇 1. 深入学习 Logtail 的底层实现 - 了解 Logtail 的架构和数据流程,包括采集、处理、上传等流程。 - 学习 Logtail 的内部机制,如缓存、压缩、解密等。 2. 掌握 Logtail 的高级应用场景 - 学习使用 Logtail 进行实时日志分析和告警。 - 可以将 Logtail 与其他阿里云产品进行集成,如 E-MapReduce、DataWorks 等。 3. 贡献 Logtail 的开源社区 - 参与 Logtail 的开源社区,为其贡献代码和改进建议。 - 参与 Logtail 的测试和文档编写,帮助更多用户学习和使用 Logtail

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值