Logtail提升采集性能

默认性能限制

为防止滥用消耗过多机器资源，我们对默认安装的Logtail进行了一系列的资源限制。默认安装的Logtail最多日志采集速度为20M/s，20个并发发送。

其他资源限制请参考：启动参数 help.aliyun.com/document_de… 中的默认配置。

采集能力

单核能力

如果放开发送流控，Logtail默认单核的能力大致如下（具体根据不同正则、日志类型、采集提取的key数量、机器配置等会有一定浮动）：

备注：测试环境
CPU :Intel(R) Xeon(R) CPU E5-2682 v4 @ 2.50GHz
MEM : 64GB
OS : Linux version 2.6.32-220.23.2.ali1113.el5.x86_64

多核能力

Logtail默认只开一个线程处理数据，如果开启多核，性能会有提升，但并不是线性关系，实测最多开到8个线程后，性能几乎没有上涨。

• 极简模式最高性能可达：440MB/s
• 正则最高性能可达：70MB/s
• 分隔符最高性可达：75MB/s
• JSON最高性能可达：75MB/s

日志格式建议

根据您的使用目的，合理选择对应的日志格式

1. 搬数据：使用极简模式，性能最高
2. 数据分析：多字符分隔符>单字符分隔符>JSON模式>正则模式
3. Java堆栈类型数据：正则模式

• 注意：正则模式采集性能和正则优化有非常大关系。

如何放开资源限制

可通过调整Logtail的启动参数来放开默认的资源限制，下面我们推荐2种配置方式：

• 注意：Logtail使用短连接发送数据，如果发送并发过高，建议调整服务器的tcp参数，防止过多time_wait
• 调整方式：sudo sysctl -w net.ipv4.tcp_tw_timeout=5

单核小资模式

在配置文件末尾追加以下两个参数，注意JSON需合法。

{
    ...
    "max_bytes_per_sec" : 50000000,
    "send_request_concurrency" : 50
}复制代码

多核极致模式

在配置文件末尾追加以下几个参数，需保证，注意JSON需合法。

• 注意：需保证 cpu_usage_limit > process_thread_count

{
    ...
    "cpu_usage_limit" : 5,
    "process_thread_count" : 4,
    "max_bytes_per_sec" : 50000000,
    "send_request_concurrency" : 50
}复制代码

原文链接

本文为云栖社区原创内容，未经允许不得转载。

转载于:https://juejin.im/post/5cf8bae4e51d454d565357ae