最近在捣鼓logstash这个插件,使用最新版本,实现采集服务日志,然后推送到各种端,redis,mongo,文件等等操作。
然后发现挺好用,但是在压力测试的时候发现个问题,logstash的内存和cpu消耗不低。如果作为一个低配服务器,使用logstash插件回收日志,是个很大的消耗。
后来想,日志回收完全可以用程序+redis队列去管理,有程序将日志打入redis。
其实无论那种方式,都会有一个问题,如果写入redis失败怎么办,或者出现其他问题怎么办。没有什么是完整的,但都能加钱或者多加几行代码办法解决,时间成本,人工成本问题。