链路监控
文章平均质量分 95
1W+POD的微服务应用集成Skywalking实现日志异步采集并实现地消息压缩发送和存储最佳实践
飞火流星02027
IT精英,经济适用男,潜力股,未来之星,天才
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
亚洲某电信公司全员AI考试--试题一【带参考答案】
文章摘要:本文围绕AI技术在多个领域的应用展开,涵盖MoE架构、模型蒸馏、代码补全、模型压缩、多模态算法等技术要点。重点解析了数据工程评估方法(LLM-as-a-Judge)的三个维度:准确性、逻辑性和合规性,并详细探讨了垂类大模型落地的成本、效果与安全规划策略。同时阐述了AI在软件开发生命周期(SDLC)中的全流程应用,包括需求分析、设计开发、测试部署等环节,旨在提升效率、优化质量和降低成本。通过20道选择题和3道问答题,系统梳理了AI技术在企业应用中的关键问题和解决方案。原创 2026-02-28 17:21:06 · 906 阅读 · 0 评论 -
验证kafka队列中的数据是否是被压缩后的数据
Kafka数据压缩验证方法总结: 客户端工具(CMAK、Kafka-map等)会默认展示解压后的消息内容,无法直接判断原始数据是否压缩 命令行工具限制: kafka-topics.sh无法显示实际压缩信息 kafka-console-consumer.sh的print-storage-info参数在3.4+版本已废弃 权威验证方法:直接读取Broker日志文件(使用kafka-dump-log.sh工具),可查看每条消息的原始压缩状态 其他验证途径包括检查主题配置、监控工具和API调用,但都有一定局限性原创 2026-02-22 17:10:34 · 952 阅读 · 0 评论 -
SkyWalking异步日志采集数据压缩从头到尾实现及踩坑笔记
本文介绍了SkyWalking日志异步采集架构在macOS环境下的配置与优化方案。重点阐述了Kafka消息压缩配置方法,包括通过agent端的producer_config或producer_config_json参数设置压缩算法(如zstd),并指出配置时的注意事项。特别说明在ARM架构MacOS上需升级压缩工具(如snappy-java)以解决兼容性问题。文章还提供了验证消息压缩状态的方法,包括查看Broker日志和配置示例,并附最新压缩工具下载地址。原创 2026-02-24 00:23:56 · 1211 阅读 · 0 评论 -
kafka设置数据压缩的方式及作用
摘要:Apache Kafka支持数据压缩功能,可通过broker、topic或客户端级别配置compression.type属性。支持的压缩算法包括gzip、snappy、lz4和zstd,各有不同的性能特点:gzip/zstd压缩率高但速度较慢,snappy/lz4速度更快但压缩率略低。合理选择压缩方式能有效减少存储空间需求、降低网络传输带宽并提升数据处理效率。建议根据具体场景需求进行测试,选择最适合的压缩算法以优化Kafka性能和成本效益。原创 2026-02-22 16:34:13 · 1039 阅读 · 0 评论 -
SkyWalking集成Kafka实现日志异步采集经验总结
SkyWalking异步日志采集1、kafka-reporter-plugin-x.x.x.jar包放plugins目录后必走kafka(kafka没有正确配置就会报错)2、异步不开启数据压缩,数据量较大,pod多、业务大时容易造成网络拥堵3、SW_AGENT_INSTANCE_NAME默认:UUID@hostname,建议调整为:nodeip@podip4、SkyWalking OAP配置启用kafka并配置好后,OAP启动时会自动创建Topic5、需要开启数据压缩,否则容易造成网络拥堵原创 2025-02-23 23:14:11 · 2852 阅读 · 3 评论
分享