Prometheus使用过程中遇到的问题

1,前言

最近在做监控功能, 需要统计cdn用量,存储,数据库请求次数的需求,使用的方案是Prometheus push方法。有个功能获取一段时间内,按照指定step,将这个step中的数据汇聚(sum,min,max,avg,count),然后返回出去。目前的做法是<aggregation>_over_time(),然后指定时间段[60s]再指定时间点time,这个可以用来计算一小个step的值,但是从start到end有许多个小段,重复计算小段,然后再返回数据。很low,但是没有更好的办法了,先记录一下,也许以后再后头看就是很简单的问题了。

2,部署prometheus和pushgateway

这个我会另写一篇文章,大概就是从网上抄一份配置,然后改一下具体参数。

3,简单介绍一下prometheus的pull和push模式

pull模式:客户端使用library,变成exporter,然后prometheus server定时从exporter pull数据。

push模式:使用pushgateway,所有客户端push数据到pushgateway,然后prometheus server定时从pushgateway pull数据。

比较:

push模式的缺点:采用pushgateway的方式,如果某一个上报方挂了,pushgateway无法感知上报方的状态,所以这时候如果不做任何操作,那么prometheus依旧会从pushgateway中获取到旧的、不正确的数据。

pull的优点:采用exporter的方式,如果某一个exporter挂掉了,那么prometheus就pull不到数据,那么时序数据库没有新的数据产生。这是正确的。

所以pull模式是prometheus的推荐模式。

至于为啥我要采用push模式呢,原因很简单:因为上报方很多,各个模块的代码不是很友好。

4,对pushgateway的认知

pushgateway算是一个缓冲区的角色,当prometheus从pushgateway pull走数据后,prometheus就会把这些数据存储在prometheus中,pv(PersistentVolume)或者本地磁盘中。所以如果pushgateway意外重启。那么可能会丢失一部分数据,不过这个可以通过配置pushgateway的存储来减少丢失的量。并且,如果pushgateway挂了,那么所有上报方的数据就都丢了。

5,还要注意的点

(1),prometheus从pushgateway pull数据的间隔,要和上报到pushgateway的间隔保持相同。如果不同,如果prometheus pull数据过于频繁,那么总是会拉取到重复的数据,如果上报到pushgateway过于频繁,那么会丢失数据,因为prometheus会以最后一次数据为准,而相同名称的数据会被替换掉。如果间隔相同,定时的时间偏移,最多只会丢失一次数据,是可以接受的。

(2),prometheus使用的是tsdb,也就是时序数据库,对同一个name的value不停的修改,就会在时间上产生一系列时序,prometheus就可以拿来统计这个时序的信息,比如rate,increase,<aggregation>_over_time()等。

(3),prometheus总是认为pushgateway的数据为新的,可用的数据,所以保证数据准确性的任务就交给了pushgateway。那么如果这时有个上报方挂了,并且不做任何操作的话,那么prometheus还是会从pushgateway那里获取到旧的,不正确的数据。所以当某客户端挂掉的时候,需要及时从pushgateway中删除此客户端上报的所有指标数据。或者把这个上报方的所有指标的value都设置为0也可以。至于如果判断客户端挂掉了,可以使用当前时间-减去最后一次上报时间是否大于上报间隔来判断。

一、prometheus简介 Prometheus是一个开源的系统监控和告警系统,现在已经加入到CNCF基金会,成为继k8s之后第二个在CNCF维护管理的项目,在kubernetes容器管理系统,通常会搭配prometheus进行监控prometheus支持多种exporter采集数据,还支持通过pushgateway进行数据上报,Prometheus再性能上可支撑上万台规模的集群。 二、prometheus架构图 三、prometheus组件介绍 1.Prometheus Server: 用于收集和存储时间序列数据。 2.Client Library: 客户端库,检测应用程序代码,当Prometheus抓取实例的HTTP端点时,客户端库会将所有跟踪的metrics指标的当前状态发送到prometheus server端。 3.Exporters: prometheus支持多种exporter,通过exporter可以采集metrics数据,然后发送到prometheus server端 4.Alertmanager: 从 Prometheus server 端接收到 alerts 后,会进行去重,分组,并路由到相应的接收方,发出报警,常见的接收方式有:电子邮件,微信,钉钉, slack等。 5.Grafana:监控仪表盘 6.pushgateway: 各个目标主机可上报数据到pushgatewy,然后prometheus server统一从pushgateway拉取数据。 四、课程亮点 五、效果图展示 六、讲师简介 先超(lucky):高级运维工程师、资深DevOps工程师,在互联网上市公司拥有多年一线运维经验,主导过亿级pv项目的架构设计和运维工作 主要研究方向: 1.云计算方向:容器 (kubernetes、docker),虚拟化(kvm、Vmware vSphere),微服务(istio),PaaS(openshift),IaaS(openstack)等2.系统/运维方向:linux系统下的常用组件(nginx,tomcat,elasticsearch,zookeeper,kafka等),DevOps(Jenkins+gitlab+sonarqube+nexus+k8s),CI/CD,监控(zabbix、prometheus、falcon)等 七、课程大纲
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值