6-日志平台-日志流监控

日志采集：

流程	要做的事情
日志规范	固定字段定义 日志格式
日志采集	落盘规则 滚动策略 采集方法
日志传输	消息队列 消费方式 Topic规范 保存时间
日志切分	采样 过滤 自定格式
日志检索	索引分割 分片设置 检索优化 权限设置 保存时间
日志流监控	采集异常 传输异常 检索异常 不合规范 监控报警

建设中：

进程管控：

1.supervisor
2.cesi

ES监控：

1.es_exporter
2.netdata（影响主机）
3.Kopf
4.bigdesk
5.elasticsearch-sql
6.Slow log监控
7.B站，基于elastalert二次开发
8.XPack

功能模块：

1.数据获取
2.异常统计
3.问题上报

问题类型问题记录：

1.业务问题
2.数据问题
3.状态码设置不合理
4.性能问题
5.超时问题
6.缓存问题
7.依赖评估问题
8.兼容性问题
9.权限问题
10.数据库问题

 

1.点击Alerts and Actions

http://es-xueqiu-logging.kbn.inter.snowballfinance.com/app/management/insightsAndAlerting/triggersActions/alerts

 

2.创建Alert

 

3.设置Alert

 

建议DSL（懒省事或者不会的话，直接粘贴）

{   "query": {     "bool": {       "must": [         {           "term": {             "environment": {               "value": "production"             }           }         },         {           "match": {             "message": "Exception"           }         }       ]     }   },   "sort": [     {       "@timestamp": {         "order": "desc"       }     }   ] }

4.设置报警方式

 

建议消息模板（懒省事或者不会的话，直接粘贴）

Elasticsearch query alert '{{alertName}}' is active:   kibana: http://es-xueqiu-logging.kbn.inter.snowballfinance.com/app/discover - Value: {{context.value}} - Conditions Met: {{context.conditions}} over {{params.timeWindowSize}}{{params.timeWindowUnit}} - Timestamp: {{context.date}} - hits: {{#context.hits}} ------------------------------------------------------------------------------ - project: {{_source.project}} - host: {{_source.host}} - logLevel: {{_source.logLevel}} - message: {{_source.message}} {{/context.hits}}